记忆封装 - Memory (langchain memory)
Memory：这里不是物理内存，从文本的角度，可以理解为“上文”、“历史记录”或者说“记忆力”的管理
ConversationBufferMemory可也用来保留会话信息
In [ ]:
from langchain.memory import ConversationBufferMemory
history = ConversationBufferMemory()
history.save_context({"input":"electronic是做什么的？"},{"output":"Electron是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架"})
print(history.load_memory_variables({}))
history.save_context({"input":"给我一个它的教程链接？"},{"output":"https://www.electronjs.org/zh/docs/latest/tutorial/quick-start"})
print(history.load_memory_variables({}))
{'history': 'Human: electronic是做什么的？\nAI: Electron是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架'}
{'history': 'Human: electronic是做什么的？\nAI: Electron是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架\nHuman: 给我一个它的教程链接？\nAI: https://www.electronjs.org/zh/docs/latest/tutorial/quick-start'}
ChatMessageHistory可也用来保留会话信息，是基于Message的
In [ ]:
#Message格式
from langchain.memory import ChatMessageHistory
history = ChatMessageHistory()
history.add_user_message("electronic是做什么的？")
history.add_ai_message("Electron是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架")
print(history)
messages=[HumanMessage(content='electronic是做什么的？', additional_kwargs={}, example=False), AIMessage(content='Electron是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架', additional_kwargs={}, example=False)]
ConversationBufferWindowMemory可也用来保留会话窗口轮次
In [ ]:
#保留指定window的历史会话信息
from langchain.memory import ConversationBufferWindowMemory
window = ConversationBufferWindowMemory(k=8) #k=8表示保留最近8轮的历史会话信息
window.save_context({"input": "第一轮问"}, {"output": "第一轮答"})
window.save_context({"input": "第二轮问"}, {"output": "第二轮答"})
window.save_context({"input": "第三轮问"}, {"output": "第三轮答"})
window.save_context({"input": "第四轮问"}, {"output": "第四轮答"})
window.save_context({"input": "第五轮问"}, {"output": "第五轮答"})
window.save_context({"input": "第六轮问"}, {"output": "第六轮答"})
window.save_context({"input": "第七轮问"}, {"output": "第七轮答"})
window.save_context({"input": "第八轮问"}, {"output": "第八轮答"})
window.save_context({"input": "第九轮问"}, {"output": "第九轮答"})
window.save_context({"input": "第十轮问"}, {"output": "第十轮答"})
print(window.load_memory_variables({}))
{'history': 'Human: 第三轮问\nAI: 第三轮答\nHuman: 第四轮问\nAI: 第四轮答\nHuman: 第五轮问\nAI: 第五轮答\nHuman: 第六轮问\nAI: 第六轮答\nHuman: 第七轮问\nAI: 第七轮答\nHuman: 第八轮问\nAI: 第八轮答\nHuman: 第九轮问\nAI: 第九轮答\nHuman: 第十轮问\nAI: 第十轮答'}
自动对历史信息做摘要：ConversationSummaryMemory
In [ ]:
import warnings
warnings.filterwarnings("ignore")
from langchain.llms import OpenAI
from langchain.chat_models import ChatOpenAI
import os
from dotenv import load_dotenv
load_dotenv()
api_key = os.environ["OPENAI_B_API_KEY"]
api_base = os.environ["OPENAI_B_API_BASE"]
In [ ]:
from langchain.memory import ConversationSummaryMemory
from langchain.llms import OpenAI
memory = ConversationSummaryMemory(
llm=OpenAI(temperature=0,openai_api_base=api_base ,openai_api_key=api_key,verbose=True),
# buffer="The conversation is between a developer and Electron develop expert."
buffer="以中文表示"
)
memory.save_context({"input":"'Electron'是做什么的？"},{"output":"'Electron'是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架"})
print(memory.load_memory_variables({}))
{'history': "\n以中文表示\n人类问AI关于'Electron'的事情，AI回答它是一个使用JavaScript、HTML和CSS构建桌面应用程序的框架。"}
用向量数据库存储记忆
In [ ]:
from datetime import datetime
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.llms import OpenAI
from langchain.memory import VectorStoreRetrieverMemory
from langchain.chains import ConversationChain
from langchain.prompts import PromptTemplate
import faiss
from langchain.docstore import InMemoryDocstore
from langchain.vectorstores import FAISS
embedding_size = 1536 # OpenAIEmbeddings的维度
index = faiss.IndexFlatL2(embedding_size)
embedding_fn = OpenAIEmbeddings().embed_query
vectorstore = FAISS(embedding_fn, index, InMemoryDocstore({}), {})
# 实际应用中k可以稍大一些，这里k=1演示方便
retriever = vectorstore.as_retriever(search_kwargs=dict(k=3))
memory = VectorStoreRetrieverMemory(retriever=retriever)
# 把记忆存在向量数据库中
memory.save_context({"input":"我喜欢爬山"},{"output":"不错啊"})
memory.save_context({"input":"我喜欢打羽毛球"},{"output":"nice"})
memory.save_context({"input":"我想去吃烤肉"},{"output":"附近有三家烤肉店"})
memory.save_context({"input":"他们家水果很便宜"},{"output":"有多便宜？"})
# 聊到相关话题，检索之前的记忆
print(memory.load_memory_variables({"prompt": "明天放假了吃点哈?"})["history"])
input: 他们家水果很便宜 output: 有多便宜？ input: 我想去吃烤肉 output: 附近有三家烤肉店 input: 我喜欢爬山 output: 不错啊