吴恩达《LangChain for LLM Application Development》课程笔记

发布时间 2023-07-12 14:56:07作者: 大师兄啊哈

1. 前言

LangChain是一个用来构建LLM应用的开源框架,主要是为基于大语言模型的应用提供一系列的构建工具包。这个短课程的主要内容有:

  • 模型、提示和解析器:调用LLM,提供提示并解析响应。
  • LLM的记忆:用于存储对话和管理有限上下文空间的记忆。
  • 链式操作:创建操作序列。
  • 文档问答:将LLM应用于您的专有数据和用例需求。
  • 代理:探索将LLM作为推理代理的新兴发展趋势。

原课程地址:https://www.deeplearning.ai/short-courses/langchain-for-llm-application-development/

B站转载:https://www.bilibili.com/video/BV1zu4y1Z7mc?p=1&vd_source=c2a322357481107ab7f418b1ae9ce618


2. 课程笔记

2.1. 模型、提示和解析器

https://www.bilibili.com/video/BV1zu4y1Z7mc?p=2&vd_source=c2a322357481107ab7f418b1ae9ce618

这节课的要点有两个:

a. 使用Langchain的模板功能,将需要改动的部分抽象成变量,在具体的情况下替换成需要的内,达到一次定义,多次使用的效果。

书中提到的一个例子是,使用模板,去转化表达的风格。这种方式比fstring要更灵活,特别是模板很长的时候。

b. 使用一个解析器,将LLM的输出解析成你需要的格式,如字典。


2.2. LLM记忆,上下文管理

这节课主要如何使用不同的内存类来管理与LLM的对话上下文。


ConversationBufferMemory:保存所有上下文。

ConversationBufferWindowMemory:以对话轮数为单位,设置最大轮数限制。

ConversationTokenBufferMemory:以token的个数为单位,设置最大个数限制。











3. 其他


(完)