By 小墨
2026年5月28日
96
296
2026年,知识库重新回归
当业界还在争论RAG(检索增强生成)是否是知识库的最优解时,一位传奇人物的最新实践再次搅动了这个领域。就在一个多月前,OpenAI创始团队成员、刚刚加入Anthropic的AI大牛Karpathy发布了他日常使用的知识库形态。与传统基于向量召回的知识库不同,这套方案让LLM全面接手知识库的管理工作,将知识"编译"成结构化的wiki摘要,从而实现更高效的知识调用与复用。
概述
这套方案的核心是一个精心设计的三层目录结构: • raw目录:存储原始文档,作为知识的"源文件" • wiki目录:存储经过LLM处理的各个wiki页面,包括摘要、实体、概念等,这是知识的"编译产物" • schema目录:存储各种规则、提示词、约束,确保流程的可复用性 基于这个架构,系统提供了三种核心操作:Ingest(摄入)、Query(查询)、Linter(健康检查)。其中最关键的是摄入操作——LLM会将原始知识"编译"成wiki摘要,而不是像传统RAG那样每次都读取原始知识。这使得LLM Wiki成为了知识的"编译器",而非简单的"解释器"。
LLM Wiki的三重架构
Karpathy的开源方式同样别具一格——没有完整的项目仓库,而是直接在GitHub上开源了一个"llm-wiki.md"文件。这种极简主义引发了大量社区复现,但绝大部分都局限于文本数据。 受此启发,有团队开始探索更激进的应用:将代码直接塞进知识库。面对MySQL(6.36GB)、PostgreSQL(958MB)这样的庞然大物,他们创新性地采用Submodule管理原始代码,通过两阶段生成方案处理wiki页面:先由LLM扫描仓库元信息了解整体架构,再针对每个模块阅读具体代码生成wiki内容。这种解析方式让LLM能够自主决定模块划分,确保每个模块的代码规模适中。
如果说基于向量召回的知识库是知识的"解释器",那么基于LLM的知识库就是知识的"编译器"。
“Karpathy”突破边界:将代码仓库纳入知识库
在代码仓库的解析过程中,如何对齐概念和模块名称是一个关键挑战。团队设计了三条规则:阅读已有概念、总结3-5个新概念、限制新概念数量。这一机制鼓励LLM匹配并更新已有概念,而非新建,确保wiki结构不会过于发散。 更巧妙的是,他们在解析代码仓库之前,提前将其他仓库的wiki目录注入上下文,要求LLM在划分模块时必须参考已有的模块标题。这样,划分模块的过程就从"填空题"变成了"选择题",大幅提升了模块对齐的准确性。
概念对齐与模块划分
在某次横向对比MySQL、PostgreSQL和NeuG三个数据库事务管理能力的测试中,使用wiki的实验组与使用原始代码的对照组表现出相近的回答质量——都能精准提取MVCC、并发控制、隔离级别、WAL等关键模块。差异在于对照组加入了更多代码细节,而实验组更倾向于介绍整体架构设计。 然而在资源消耗上,两者差距悬殊:使用wiki后,通过极少的token就可以解答问题,整体提升率在6倍左右。由于token生成速度相对固定,token消耗与执行时间大致成正比,整体执行时间同样存在4倍以上的差异。这不仅节省了成本,更节省了宝贵的时间。
如有侵权,请联系删除。
Related Articles
-
Fri Jun 12 2026红杉领投种子轮融资,AI企业法务初创Sandstone又完成3000万美元A轮融资
AI法务初创Sandstone在短时间内完成新一轮融资,显示出资本对法务领域AI化的浓厚兴趣。公司通过模型与流程结合,为中小企业提供日常法务自动化解决方案。
-
Fri Jun 12 2026融资813亿,估值3000亿,这家AI公司创办仅一年
近日,一家由科技界重要人物秘密创立的AI公司完成了规模巨大的B轮融资,成为2026年迄今为止最引人注目的融资事件之一。公司专注将AI能力工程化,赋能复杂工业产品的设计与开发。
-
Fri Jun 12 2026AI生态之战打响:微信做入口,腾讯来托底
本文从微信的用户规模与生态能力切入,分析其作为AI入口的天然优势,及腾讯如何通过开放接入和生态联动,打造面向服务商与开发者的智能体接入体系。
-
Fri Jun 12 2026谷歌 847 亿融资释放信号,AI 进入回本大考
本文围绕Alphabet筹资847.5亿美元事件展开,分析该轮融资对AI产业资本逻辑与估值体系的深远影响,强调大规模投入对行业分化与资源配置的推动作用。
-
Fri Jun 12 2026明天见!AI焕新·智能相伴——PKPM Agent 2.0暨工程智能体"十五五"发展研讨会(北京站)
PKPM Agent 2.0在北京站研讨会亮相,会议围绕工程智能体在复杂结构分析、智能审查与城市更新中的实践展开讨论,强调智能体在工程设计与建造中的助力作用。
-
Thu Jun 11 2026资本加码!AI+芯片双赛道,新区企业跑出加速度
文章报道南京新区多家企业在AI与芯片赛道获得新一轮融资,揭示区域创新生态的活力与资金对接能力,体现资本对实体技术落地的支持。
-
Thu Jun 11 2026AniShort斩获近亿元融资,刷新AI短剧工具赛道融资纪录
AniShort是八点八数字推出的全流程一站式AI短剧协作平台,集成剧本创作、分镜生成、视频生成与智能剪辑等能力,旨在减少创作门槛并提升制作效率。
-
Wed Jun 10 20262026-2030年智能体市场发展趋势分析
2026-2030年,AI产业将从大模型应用时代全面迈入智能体规模化落地时代,应用范式朝向自主规划与闭环执行演进,带来新的市场结构与竞争格局。
-
Wed Jun 10 2026如何把握AI波动
行业分析认为2026年为智能体之年,整体景气度明确,资本与产业将围绕智能体生态和算力基础设施展开布局。
-
Wed Jun 10 2026知晓现在 洞见未来(20260610)
本文报道微信智能体将能调取小程序完成交易和服务,首批包括美团、滴滴、携程在内的企业接入内测,标志着智能体与现有移动生态的深度融合加速。
-
Wed Jun 10 202627亿,英伟达买下一个A轮AI团队
英伟达完成对 Kumo AI 的收购,交易金额折合约27亿元人民币,主要以人才并购形式整合团队与技术,显示出公司在软件与应用层面的积极布局。
-
Wed Jun 10 2026英伟达领投,AI科学实验室Lila Sciences拟融资20亿美元,估值85亿美元
Lila Sciences 正在推进一轮规模巨大的融资,目标金额约20亿美元,融资前估值接近85亿美元。本轮由英伟达等核心投资方领投,旨在为其基于AI的科学发现平台提供扩张资金。
-
Wed Jun 10 2026汇信科技入选《2026中国AI智能体领航者产业图谱》,“智服小联”获政务赛道标杆案例
汇信科技依托'智服小联'在政务年报场景中的实践,凭借全链条闭环监管能力入选《2026中国AI智能体领航者产业图谱》政务赛道标杆案例。
-
Wed Jun 10 2026医疗、制造与零售变天了:看这三大行业如何跨入AI转型年
金融服务、工业与医疗三大行业已率先迈入AI规模化落地阶段,凭借海量数据和成熟的数据基础设施,成为智能体应用的先行者。
-
Wed Jun 10 2026事关AI算力!工信部重磅发布
工信部印发《人工智能信息通信创新发展实施意见(2026—2028年)》,提出要在信息通信与人工智能领域实现更深度的融合,推动产业链上下游协同创新和场景化应用落地。
-
Wed Jun 10 2026金融AI智能体采购进入“爆发期”,苏州银行、宁波银行等机构已落地
2026年上半年,银行业智能体采购进入显著增长期,多家区域性银行发布智能体项目招标,覆盖开发平台与信贷全流程场景,推动金融科技从模型验证向大规模应用转变。
-
Wed Jun 10 2026Anthropic双模型腰斩上线、SpaceX获4倍认购、华为云500万Tokens/秒
近期科技与AI领域出现多重重磅事件:Anthropic发布面向开发者与高安全场景的两款新模型并下调定价,SpaceX的融资产品遭遇超额认购,华为云在算力优化上取得显著吞吐提升。
-
Wed Jun 10 2026为AI竞赛筹备弹药,腾讯发债融资315亿元
腾讯近期完成中期票据与人民币票据发行,总规模约315亿元,募集资金将用于加强AI基础设施与相关技术投入,以应对日益激烈的AI竞争环境。
