高级RAG技术指南：从预检索到生成
这是一份关于15种高级RAG（检索增强生成）技术的全面指南，分为4个主要阶段：
00 - 预检索和数据索引技术
1. 使用LLM增加信息密度
- 利用大型语言模型来提升数据的丰富性和详细程度。
2. 应用分层索引检索
- 通过分层次地组织和检索数据，提升检索效率。
3. 使用假设问题索引改善检索对称性
- 通过创建假设问题来平衡和优化数据的检索对称性。
4. 使用LLM删除数据索引中的重复信息
- 利用大型语言模型清理数据中的冗余信息，确保数据简洁高效。
5. 测试和优化分块策略
- 研究并优化将大数据集拆分为更小块的策略，以提高处理效率。
01 - 检索技术
6. 使用LLM优化搜索查询
- 利用大型语言模型来改进搜索查询的精准度。
7. 使用假设文档嵌入（HyDE）解决查询-文档不对称问题
- 应用假设文档嵌入方法，平衡查询和文档之间的信息不对称。
8. 实现查询路由或RAG决策模式
- 构建查询路由系统或决策模式，以便更智能地处理检索请求。
02 - 检索后技术
9. 使用reranking优先处理搜索结果
- 对初步搜索结果进行重新排序，以突出最相关的信息。
10. 使用上下文提示压缩优化搜索结果
- 利用上下文提示压缩技术，提高搜索结果的相关性和简洁性。
11. 使用校正RAG对检索到的文档进行评分和过滤
- 应用校正后的RAG模型，对获取的文档进行评分和过滤，提升精度。
03 - 生成技术
12. 使用思维链提示调整噪音
- 应用思维链提示方法，减少生成内容中的噪音，提高质量。
13. 使用Self-RAG使系统具有自反性
- 引入自反性，使系统能够自我评估和改进生成内容。
14. 通过微调忽略不相关上下文
- 调整模型以忽略无关背景，提高生成内容的相关性。
15. 使用自然语言推理使LLM对不相关上下文具有鲁棒性
- 利用自然语言推理能力，使大型语言模型能够抵御无关背景干扰。
04 - 其他潜在改进
- 微调嵌入模型：调整嵌入模型以优化性能。
- 使用GraphRAG：将知识图谱整合到RAG系统中，提升知识连接与利用效率。
- 使用长上下文LLM：如Gemini 1.5或GPT-4 128k，用于替代传统分块和检索方法，实现更长上下文处理能力。
报告下载地址：
