https://avoid.overfit.cn/post/548ad625830a4645beba60a37a2b59d6

发布时间 2023-12-08 09:55:35作者: deephub

本文从数据科学家的角度来研究检索增强生成(retrieve - augmented Generation, RAG)管道。讨论潜在的“超参数”,这些参数都可以通过实验来提高RAG管道的性能。与本文还将介绍可以应用的不同策略,这些策略虽然不是超参数,但对性能也会产生很大的影响。

本文将介绍以下索引阶段的“超参数”。

  • 数据清理
  • 分块
  • 嵌入模型
  • 元数据
  • 多索引
  • 索引算法

在推理阶段(检索和生成),可以通过一下策略进行调优:

  • 查询转换
  • 检索参数
  • 高级检索策略
  • 评估模型
  • llm
  • 提示工程

注意,本文涵盖了RAG的文本用例。对于多模式RAG应用程序,可能需要考虑不同的因素。

 

https://avoid.overfit.cn/post/548ad625830a4645beba60a37a2b59d6