LangChain
Langchain-Chatchat项目：4.1-P-Tuning v2实现过程
常见参数高效微调方法(Parameter-Efficient Fine-Tuning，PEFT)有哪些呢？主要是Prompt系列和LoRA系列。本文主要介绍P-Tuning v2微调方法。如下所示： Prompt系列比如，Prefix Tuning(2021.01-Stanford)、Prompt ......
LangChain实战
1.概述 最近，在研究LangChain时，发现一些比较有意思的点，今天笔者将给大家分享关于LangChain的一些内容。 2.内容 2.1 什么是LangChain？ LangChain是一项旨在赋能开发人员利用语言模型构建端到端应用程序的强大框架。它的设计理念在于简化和加速利用大型语言模型（LL ......
Langchain语言模型提问请求，提问使用非标准的sse请求获取流式数据，java后台版解决方式
问题描述：请求后接收的数据流，不走EventSourceListener的onEvent事件，但onOpen onClosed都是正常走的。 问题原因：默认的接口返回是StreamingResponse不是EventSourceResponse，无法走标准sse协议的onEvent()方法 目标需求 ......
Langchain使用自己定义的tool
Langchain使用自己定义的tool 快速开始 tool是agent可用于与世界交互的功能。这些工具可以是通用实用程序（例如搜索）、其他链，甚至是其他代理。 目前，可以使用以下代码片段加载工具： from langchain.agents import load_tools tool_names ......
基于LangChain的LLM应用开发3——记忆
此情可待成追忆，只是当时已惘然。我们人类会有很多或美好或痛苦的回忆，有的回忆会渐渐模糊，有的回忆午夜梦醒，会浮上心头。 然而现在的大语言模型都是没有记忆的，都是无状态的，大语言模型自身不会记住和你对话之间的历史消息。根本用不着“时时勤拂拭”，天然就是“本来无一物”。每一次的请求交互、api调用都是独 ......
langchain
对超长文本进行总结 假如我们想要用 openai api 对一个段文本进行总结，我们通常的做法就是直接发给 api 让他总结。但是如果文本超过了 api 最大的 token 限制就会报错。这时，我们一般会进行对文章进行分段，比如通过 tiktoken 计算并分割，然后将各段发送给 api 进行总结， ......
Langchain-Chatchat项目：3-Langchain计算器工具Agent思路和实现
本文主要讨论Langchain-Chatchat项目中自定义Agent问答的思路和实现。以"计算器工具"为例，简单理解就是通过LLM识别应该使用的工具类型，然后交给相应的工具（也是LLM模型）来解决问题。一个LLM模型可以充当不同的角色，要把结构化的Prompt模板写好，充分利用LLM的Zero/O ......
Langchain-Chatchat项目：1-整体介绍
基于Langchain与ChatGLM等语言模型的本地知识库问答应用实现。项目中默认LLM模型改为THUDM/chatglm2-6b[2]，默认Embedding模型改为moka-ai/m3e-base[3]。 一.项目介绍 1.实现原理 本项目实现原理如下图所示，过程包括加载文件->读取文本->文 ......
Langchain-Chatchat项目：1.1-ChatGLM2项目整体介绍
ChatGLM2-6B是开源中英双语对话模型ChatGLM-6B的第2代版本，引入新的特性包括更长的上下文(基于FlashAttention技术，将基座模型的上下文长度由ChatGLM-6B的2K扩展到了32K，并在对话阶段使用8K的上下文长度训练)；更高效的推理(基于Multi-QueryAtte ......
Langchain-Chatchat项目：1.2-Baichuan2项目整体介绍
由百川智能推出的新一代开源大语言模型，采用2.6万亿Tokens的高质量语料训练，在多个权威的中文、英文和多语言的通用、领域benchmark上取得同尺寸最佳的效果，发布包含有7B、13B的Base和经过PPO训练的Chat版本，并提供了Chat版本的4bits量化。 一.Baichuan2模型 B ......
Langchain-Chatchat项目：2.1-通过GPT2模型来检索NebulaGraph
在官方例子中给出了通过chain = NebulaGraphQAChain.from_llm(ChatOpenAI(temperature=0), graph=graph, verbose=True)来检索NebulaGraph图数据库。本文介绍了通过GPT2替换ChatOpenAI的思路和实现，暂 ......
GPT之路(九) LangChain - Memory
记忆封装 - Memory (langchain memory) Memory：这里不是物理内存，从文本的角度，可以理解为“上文”、“历史记录”或者说“记忆力”的管理 ConversationBufferMemory可也用来保留会话信息 In [ ]: from langchain.memory i ......
Llama2-Chinese项目：7-外延能力LangChain集成
本文介绍了Llama2模型集成LangChain框架的具体实现，这样可更方便地基于Llama2开发文档检索、问答机器人和智能体应用等。 1.调用Llama2类 针对LangChain[1]框架封装的Llama2 LLM类见examples/llama2_for_langchain.py，调用代码如下 ......
文章《Semantic Kernel -- LangChain 的替代品？》的错误和疑问 探讨
微信公众号文章 Semantic Kernel —— LangChain 的替代品?[1] ，它使用的示例代码是Python ，他却发了这么一个疑问：支持的语言对比（因为 Semantic Kernel 是用 C#开发的，所以它对 C#比较支持）如上所示。不清楚 Semantic Kernel 为什 ......
本地部署 Langchain-Chatchat & ChatGLM
一、模型&环境介绍 1. ChatGLM github 地址：https://github.com/THUDM 模型地址：https://huggingface.co/THUDM 2. m3e 模型地址：https://huggingface.co/moka-ai/m3e-base/ 3. text ......
LangChain使用fine-tuned GPT-3.5
LangChain使用fine-tuned GPT-3.5 参考： https://openai.com/blog/gpt-3-5-turbo-fine-tuning-and-api-updates https://platform.openai.com/docs/guides/fine-tunin ......
GPT之路(八) LangChain - Models入门
环境：Python 3.11.4， LangChain 0.0.270, Jupyter Models模型简介 官方地址：LangChian - Models Langchain所封装的模型分为两类： 大语言模型 (LLM) 聊天模型 (Chat Models) Langchain的支持众多模型供应 ......
安装langchain-chatchat
1、下载langchain-chatchat git clone https://github.com/chatchat-space/Langchain-Chatchat.git 2、下载llama2-7b-chat-hf git lfs installgit clone https://huggi ......
Javascript版Langchain入门
https://baijiahao.baidu.com/s?id=1769509377621631060&wfr=spider&for=pc 介绍 LangChain是一个开源Python库，用于构建由大型语言模型（LLM）支持的应用程序。它提供了一个框架，将LLM与其他数据源（如互联网或个人文件） ......
Langchain的一些问题和替代选择
Langchain因其简化大型语言模型(llm)的交互方面的到关注。凭借其高级的API可以简化将llm集成到各种应用程序中的过程。 但是Langchain乍一看似乎是一个方便的工具，但是它有时候否更像是一个语言迷宫，而不是一个直截了当的解决方案。在本文中，我们将探讨与Langchain相关的一些问题 ......
GPT之路(七) LangChain AI编成框架入门的第一个demo
环境：Python 3.11.4， LangChain 0.0.270 1.Langchain 简介 1.1 Python Langchain官方文档 大型语言模型（LLM）正在成为一种具有变革性的技术，使开发人员能够构建以前无法实现的应用程序。然而，仅仅依靠LLM还不足以创建一个真正强大的应用程序 ......
Chat.langchain
Chat LangChain 代码： langchain-ai/chat-langchain (github.com) import argparse import functools import os from typing import Literal, Optional, Union fro ......
Langchain
Repository search results (github.com) Question Answering | 🦜️🔗 Langchain 假设您有一些文本文档(PDF、blog、Notion页面等)，并且希望询问与这些文档内容相关的问题。法学硕士，鉴于他们在理解文本方面的熟练程度，是一 ......
langchain中的LLM模型使用介绍
# 简介 构建在大语言模型基础上的应用通常有两种，第一种叫做text completion,也就是一问一答的模式，输入是text，输出也是text。这种模型下应用并不会记忆之前的问题内容，每一个问题都是最新的。通常用来做知识库。 还有一种是类似聊天机器人这种会话模式，也叫Chat models。这种 ......
LangChain-Chatchat学习资料-Windows开发部署（踩坑篇）
# LangChain-Chatchat学习资料-Windows开发部署（踩坑篇） ## 环境准备的坑 ### 1.CUDA版本问题 我是用的RTX3060显卡，通过nvidia-smi命令，查看显卡支持的CUDA版本为12.2，然后下载版本的CUDA，后续发现这里是个坑，pytorch目前最新版为 ......
LangChain-Chatchat学习资料-Windows开发部署
# 在windows10下的安装部署 ## 参考资料 1.[LacnChain-Chatchat项目](https://github.com/chatchat-space/Langchain-Chatchat "LacnChain-Chatchat项目") ## 基础环境准备 本人使用的是Windo ......
LangChain-Chatchat的简介
# LangChain-Chatchat的简介 [LangChain-Chatchat](https://github.com/chatchat-space/Langchain-Chatchat "LangChain-Chatchat") (原 Langchain-ChatGLM): 基于 Lang ......
LangChain + Streamlit + Llama：将对话式AI引入本地机器
在过去的几个月里，大型语言模型（LLM）获得了极大的关注，引起了全球开发人员的兴趣。这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员而言。LLM带来的可能性引发了开发人员的热情 |人工智能 |NLP社区。 ......
chatglm2-6b模型在9n-triton中部署并集成至langchain实践
本文将介绍我利用集团9n-triton工具部署ChatGLM2-6B过程中踩过的一些坑，希望可以为有部署需求的同学提供一些帮助。 ......
langchain接入星火大模型（其他模型也可以参考）
首先来说LangChain是什么？不了解的可以点击下面的链接来查看下。 LangChain入门指南_故里_的博客-CSDN博客 然后在介绍一下星火认知大模型相关： 讯飞星火认知大模型感兴趣的小伙伴可以了解一下，国内比较成熟的类GPT（我自己定义的，也不知道对不对）模型。 说一下大概需求，首先我是要用 ......