526互联

RAG

大语言模型LLM幻觉的解决方法：检索增强生成RAG

当你向大语言模型LLMs集成的问答系统平台咨询医疗方面的问题，比如呼吸道感染应该怎么治疗，它可能直接给出答案，但不会提供这个答案的依据来源，这是因为大语言模型应用过程中还存在答案透明度不足的缺陷导致。此外，大语言模型还有知识更新的滞后性、在处理复杂任务时的准确性的问题。 为了解决这些问题，检索增强生 ......
幻觉 模型 语言 方法 LLM

使用CLIP和LLM构建多模态RAG系统

使用CLIP和LLM构建多模态RAG系统 在本文中我们将探讨使用开源大型语言多模态模型(Large Language Multi-Modal)构建检索增强生成(RAG)系统。本文的重点是在不依赖LangChain或LLlama index的情况下实现这一目标，这样可以避免更多的框架依赖。 什么是RA ......
模态 系统 CLIP LLM RAG

大模型RAG之向量检索技术-结合LSTM模型编码

本文将介绍两种编码方式，一种直接采用bert进行编码query与待匹配数据；另一种将待匹配数据构造成key-value的形式，key表示从每个待匹配数据的概念或者抽象描述，value是对应的待匹配数据，将query和key进行编码，lstm从过query查询到key之后，就可以获取对应的value ......
模型 向量 编码 技术 LSTM

什么是大模型RAG?RAG与funtionCalling的区别是什么？

大模型的RAG（Retrieval-Augmented Generation）与Function Calling都是用于增强大型语言模型（如GPT）的技术，但它们的工作原理和应用场景有所不同。 Retrieval-Augmented Generation (RAG): 原理：RAG结合了信息检索和文 ......
funtionCalling RAG 模型

机器学习周刊 第4期：动手实战人工智能、计算机科学热门论文、免费的基于ChatGPT API的安卓端语音助手、每日数学、检索增强 (RAG) 生成技术综述

LLM开发者必读论文：检索增强（RAG）生成技术综述！ 目录： 1、动手实战人工智能 Hands-on Al 2、huggingface的NLP、深度强化学习、语音课 3、Awesome Jupyter 4、计算机科学热门论文 5、LLM开发者必读论文:检索增强 (RAG) 生成技术综述 6、App ......
人工智能 实战 人工 语音 助手

机器学习周刊03:如何学习深度学习？2024 年学习生成式 AI 路线图、如何构建高效的RAG系统、苹果 腾讯最新论文、阿里DreaMoving

腾讯推出的 AppAgent，是一个多模态智能体，通过识别当前手机的界面和用户指令直接操作手机界面，能像真实用户一样操作手机！ 机器学习周刊：关注Python、机器学习、深度学习、大模型等硬核技术 1、如何学习深度学习？ 最近X上有推友重提这篇文章，是网友看过 Jeremy 教授的 fast.ai ......
路线图 DreaMoving 深度 周刊 路线

使用知识图谱提高RAG的能力，减少大模型幻觉

在使用大型语言模型(llm)时，幻觉是一个常见的问题。LLM生成流畅连贯的文本，但往往生成不准确或不一致的信息。防止LLM产生幻觉的方法之一是使用提供事实信息的外部知识来源，如数据库或知识图谱。 向量数据库和知识图谱 向量数据库 向量数据库是表示实体或概念(如单词、短语或文档)的高维向量的集合。数据 ......
图谱 幻觉 模型 能力 知识

检索增强生成RAG

检索增强生成（Retrieval-Augmented Generation, RAG）是一种结合了检索（搜索）和生成（如自动文本生成）的技术。 它通常用于自然语言处理（NLP）任务，如问答、文本摘要或聊天机器人的构建。 RAG的优势 RAG 通过首先从一个大型文档集合中检索相关信息，然后基于这些信息 ......
RAG

大语言模型优化方法简介：Prompt、RAG、Fine-tuning

GPT、LLama、Gemini等大语言模型虽展现出强大能力，但在实际应用中仍有问题，例如在准确性、知识更新速度和答案透明度方面，仍存在挑战。 论文“Retrieval-Augmented Generation for Large Language Models: A Survey（面向大语言模型的 ......
Fine-tuning 模型 语言 简介 方法

解密Prompt系列22. LLM Agent之RAG的反思：放弃了压缩还是智能么？

当前RAG多数只让模型基于检索内容回答，其实限制了模型自身知识压缩形成的智能。既要事实性又要模型智能，需要最大化使用模型内化到参数中的信息，只在必要时调用外部知识，这里介绍前置和后置处理的几种方案~ ......
还是 智能 Prompt Agent LLM

使用LOTR合并检索提高RAG性能

RAG结合了两个关键元素:检索和生成。它首先使用语义搜索等高级技术来浏览大量数据，包括文本、图像、音频和视频。RAG的本质在于它能够检索相关信息，然后作为下一阶段的基础。生成组件利用大型语言模型的能力，解释这些数据块，制作连贯的、类似人类的响应。与传统的生成模型相比，这个过程确保RAG系统可以提供更 ......
性能 LOTR RAG

解密Prompt系列21. LLM Agent之再谈RAG的召回信息密度和质量

话接上文的召回多样性优化，这一章我们唠唠召回的信息密度和质量。同样参考经典搜索和推荐框架，这一章对应排序+重排环节。我们先对比下经典框架和RAG的异同，再分别介绍几种适用大模型的排序和重排方案~ ......
密度 质量 Prompt Agent 信息

Kernel Memory 入门系列： RAG 简介

Kernel Memory 入门系列： RAG 简介 开一个新坑，Semantic Kernel系列会在 Release 1.0 之后陆续更新。 当我们有了一定的产品资料或者知识内容之后，自然想着提供一个更加方便的方式让用户能够快速地找到自己想要的信息，或者得到一个更加智能的答案。 以往的时候可能需 ......
简介 Kernel Memory RAG

7 种查询策略教你用好 Graph RAG 探索知识图谱

我们在这篇文章中探讨了知识图谱，特别是图数据库 NebulaGraph，是如何结合 LlamaIndex 和 GPT-3.5 为 Philadelphia Phillies 队构建了一个 RAG。 此外，我们还探讨了 7 种查询引擎，研究了它们的内部工作，并观察了它们对三个问题的回答。我们比较了每... ......
图谱 策略 知识 Graph RAG

7 种查询策略教你用好 Graph RAG 探索知识图谱

我们在这篇文章中探讨了知识图谱，特别是图数据库 NebulaGraph，是如何结合 LlamaIndex 和 GPT-3.5 为 Philadelphia Phillies 队构建了一个 RAG。 此外，我们还探讨了 7 种查询引擎，研究了它们的内部工作，并观察了它们对三个问题的回答。我们比较了每... ......
图谱 策略 知识 Graph RAG

解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化

看完openai闭门会议对RAG又有些新的思考。这一章我们参考主流的搜索框架，结合新老论文，和langchain新功能聊聊RAG框架中召回多样性的优化方案，包括如何提高query多样性和索引多样性 ......
多样性 Prompt Agent LLM RAG

TS版LangChain实战：基于文档的增强检索（RAG）

LangChain解决了现在开发人工智能应用的一些切实痛点，作为一个胶水层框架，极大地提高了开发效率，它的作用可以类比于jquery在前端开发中的角色，使得开发者可以更专注于创新和优化产品功能。 ......
实战 LangChain 文档 RAG

全新Self-RAG框架亮相，自适应检索增强助力超越ChatGPT与Llama2，提升事实性与引用准确性

全新Self-RAG框架亮相，自适应检索增强助力超越ChatGPT与Llama2，提升事实性与引用准确性 1. 基本思想 大型语言模型（LLMs）具有出色的能力，但由于完全依赖其内部的参数化知识，它们经常产生包含事实错误的回答，尤其在长尾知识中。 为了解决这一问题，之前的研究人员提出了检索增强生成（ ......
事实性 框架 Self-RAG 准确性 事实

Chain-Of-Note：解决噪声数据、不相关文档和域外场景来改进RAG的表现

CoN要点 CoN框架由三种不同的类型组成，研究称之为阅读笔记。 上面的图像，类型(A)显示了检索到的数据或文档回答查询的位置。LLM仅使用NLG从提供的数据中格式化答案。 https://avoid.overfit.cn/post/1a108bbaf6c84b5fbc51554fefa222cd ......
噪声 Chain-Of-Note 场景 文档 数据

【RAG问答相关】复杂知识库问答综述（下）

前言 大模型落地应用过程中，一般形式还是问答形式，无论是人机对话还是机机对话，都是靠问答来解决一系列问题。无论是要求大模型给出具体的专业化知识，还是要求大模型进行某项作业的开展，都是以问题（指令其实也是一种特殊的问题）的形式进行。所以在RAG中，如何将问题转化为大模型能够理解的问题，转化为各种知识库 ......
知识库 知识 RAG

检索增强生成 (RAG)的原理——传统检索+LLM生成相结合

RAG是一种检索增强生成模型，由信息检索系统和seq2seq生成器组成。它的内部知识可以轻松地随时更改或补充，而无需浪费时间或算力重新训练整个模型。 举个例子，假设你正在写一篇关于猫的文章，但你不确定如何描述猫的行为。你可以使用RAG来检索与猫行为相关的文档，然后将这些文档作为上下文与原始输入拼接起 ......
原理 传统 RAG LLM

【RAG问答相关】复杂知识库问答综述（上）

前言 大模型落地应用过程中，一般形式还是问答形式，无论是人机对话还是机机对话，都是靠问答来解决一系列问题。无论是要求大模型给出具体的专业化知识，还是要求大模型进行某项作业的开展，都是以问题（指令其实也是一种特殊的问题）的形式进行。所以在RAG中，如何将问题转化为大模型能够理解的问题，转化为各种知识库 ......
知识库 知识 RAG

Graph RAG: 知识图谱结合 LLM 的检索增强

RAG（Retrieval Argumented Generation）这种基于特定任务/问题的文档检索范式中，我们通常先收集必要的上下文，然后利用具有认知能力的机器学习模型进行上下文学习（in-context learning），来合成任务的答案。这次，我们借助 LLM 的力量，强化下 RAG。 ......
图谱 知识 Graph RAG LLM

使用GPT-4生成训练数据微调GPT-3.5 RAG管道

OpenAI在2023年8月22日宣布，现在可以对GPT-3.5 Turbo进行微调了。也就是说，我们可以自定义自己的模型了。然后LlamaIndex就发布了0.8.7版本，集成了微调OpenAI gpt-3.5 turbo的功能 也就是说，我们现在可以使用GPT-4生成训练数据，然后用更便宜的AP ......
GPT 管道 数据 3.5 RAG

Prompt、RAG、微调还是重新训练？如何选择正确的生成式AI的使用方法

生成式人工智能正在快速发展，许多人正在尝试使用这项技术来解决他们的业务问题。一般情况下有4种常见的使用方法： Prompt Engineering Retrieval Augmented Generation (RAG 检索增强生成) 微调 从头开始训练基础模型(FM) 本文将试图根据一些常见的可量 ......
使用方法 还是 方法 Prompt RAG
共25篇  :1/1页 首页上一页1下一页尾页