告别传统RAG：让大模型像人类一样翻阅文档寻找答案

检索增强生成（RAG）作为大模型落地企业场景的标配方案，在实践中暴露出的问题正日益凸显。传统RAG的流水线逻辑是：将文档切分成片段、向量化存储、检索相关片段、注入上下文生成答案。这套流程看似合理，却在根本上面临语义完整性被破坏、溯源难以验证、优化成本不断攀升等困境。本文将探讨一种替代思路——让大语言模型直接翻阅整理好的文档目录，自主选择需要阅读的文件，基于完整原文给出答案。

核心方案：构建可导航知识库

传统RAG模式存在三个难以回避的核心问题。首先，切片操作对语义完整性的影响是根本性的。将文档按固定长度切分时，完整的论证可能被拦腰截断，表格和数据脱离标题后难以理解，跨段落的引用关系一并丢失。模型看到的永远是孤立的碎片，而非完整的语境。其次，溯源的可验证性存在严重缺陷。RAG方案给出的引用通常是切片编号而非用户可直接打开的文件位置，验证成本高昂，幻觉也更容易藏身。第三，GraphRAG等优化方案虽然能捕捉跨文档的联系，但构建成本极高，需要针对领域做大量抽取和建模工作，性价比在小场景下难以接受。

文件级粒度的知识组织

针对上述问题，我们提出以「文件」为最小单位、依靠大模型自身导航能力检索知识的方案。核心理念是将治理后的文档组织成清晰的目录结构，为每个文件生成简要摘要，汇总成一份索引文件。查询时，先将索引文件加载到上下文，让模型浏览并自行选择需要精读的文件，最后读取原文生成答案。

索引文件的预生成与加载策略

具体实施分为三个层次。在文档治理层面，将原始文档统一转换为Markdown格式，按主题组织在文件夹中，每个文件应承载一个可被独立引用的知识单元。在索引生成层面，为每个文件生成简短摘要，采用层级合并格式写入Markdown索引文件——将公共路径前缀提取为目录标题，子文件只保留文件名和摘要。这种格式可节省15%-20%的上下文token开销。在检索范式上，传统RAG是「用户提问→检索片段→生成答案」，新方案则是「用户提问→加载索引→模型浏览选择文件→读取原文→生成答案」。大模型不再是被动的回答机器，而是主动探索知识库的「翻文件者」。

三种规模的应对策略

根据知识库的文件数量，可灵活选择索引加载方式。文件数在600-700以内时，可直接全量加载索引文件，这是最简洁理想的场景。文件数超出全量窗口时，可采用分块索引策略，将索引按顺序分成多个批次让模型逐批浏览，累积候选文件列表后再统一读取原文。若目录结构天然具有清晰的层级，也可采用逐级下钻的分层索引作为备用方案。在需要跨主题快速定位时，向量检索可作为辅助工具引入，但与传统RAG的本质区别在于：向量检索只返回文件路径作为导航信号，答案的源头永远是完整的原文文件，而非被切散的片段。

如有侵权，请联系删除。