LLM Wiki:让对话真正沉淀下来

2026年7月10日

35

879

LLM Wiki:让对话真正沉淀下来

与AI对话时,我们常会产生一种错觉:既然模型「读过了」,那它应该就「学会了」。比如在对话中告诉它一门不存在的语言规则,或某款尚未发布的电子产品参数,模型能够据此继续推理、翻译、分析,似乎真的理解了这些新知识。然而一旦关闭对话、开启新的会话,再次询问同样的问题,模型大概率一无所知。这并非模型的刻意「装傻」,而是由其本质架构所决定:模型本质上是一个经过大规模预训练压缩的知识包,它能够根据当前上下文临时展开相关能力,但这个压缩包本身不会因为一次对话就自动改写。新输入的信息只存在于当前对话窗口中,无法转化为模型的长期知识储备。

概述

这一特性带来的实际问题远比表面看起来严重。传统AI问答系统的核心假设是「检索准确度决定答案质量」,但更深层的问题在于:AI并非在一个持续生长的知识系统上运作,而是在一次次临时构建的上下文中工作。对话结束,工作台清空,所有讨论产生的价值便随之消散。许多人习惯将重要对话内容复制到笔记软件中保存,但这种做法难以形成持续、系统的知识维护机制。问题的关键从来不在于文字记录本身,而在于如何建立一套可持续运转的维护体系。

对话价值的流失困境

LLM Wiki框架由Karpathy提出,其核心理念颠覆了传统思路:不要指望模型自身记住一切,而是让模型负责维护一个外部Wiki系统。在这一框架下,模型承担读取、提取、合并、链接和更新的职责;Wiki系统则负责保存、积累、迁移和审计。这种分工将知识存储的责任从模型参数转移到外部存储,使得知识积累不再依赖模型重新训练,而是通过规范化的文档管理实现。

真正重要的是先把它跑起来,规则会在一次次处理中被问题推出来、被错误磨出来。

“知识管理实践者”
🦞

JimoClaw — 桌面 AI Agent 工作台

让 AI 处理本地资料、操控浏览器,最终交付可直接使用的文档、表格与 PPT,而不只是一段回答。

下载桌面版

LLM Wiki:外部知识库的理念

LLM Wiki的实现从目录结构入手:创建raw和wiki两个核心文件夹,分别存放原始材料和整理后的知识页面。raw目录作为只读层存放各类原始资料;wiki目录则是AI维护后的知识库,按主题分类组织。此外还需要index.md作为全局入口、log.md记录操作历史,以及AGENT.md定义AI的工作规则。目录结构本身并不复杂,但真正决定系统能否长期运行的,是规则层的精心设计。没有规则约束,AI容易将知识库变成随手书写的文件堆;有了规则,AI才知道哪些可以修改、如何撰写、写入依据为何。

目录结构与规则层设计

第一,raw目录严格只读。AI可从中提取事实,但不得创建、删除或修改任何文件,确保原始材料的权威性。第二,合并优先于新建。新材料进入时先检查wiki中是否存在相关页面,有则合并,无才新建,避免知识库沦为按时间堆叠的原始资料库。第三,默认可追溯。Wiki中每条重要信息必须标注来源,无来源支撑的内容不能写入事实区;冲突信息不得静默覆盖,应并列展示不同版本供核实。第四,项目级权限控制。AI在用户确认前不得修改任何文件,确认后也只能操作wiki目录、索引和日志等指定对象。第五,操作留痕。每次处理后更新日志,记录已完成事项和变更结果;新建页面后必须更新索引。第六,页面不删只标注。过时或重复内容优先合并,标注「已废弃」或归档处理。这些规则共同构成了知识库长期健康运转的制度保障。

🛡️

积墨 AI 安全隐患巡检系统

任务一键下达 · 隐患 AI 识别 · 整改全程留痕 · 报告一键生成。让安全巡检真正看得见、管得住、能闭环。

了解方案

如有侵权,请联系删除。

Related Articles

联系我们 试用咨询
小墨 AI