把控制大模型幻觉的希望全押在本体上,这是另一种AI认知误区

2026年7月13日

46

453

把控制大模型幻觉的希望全押在本体上,这是另一种AI认知误区

近年来,随着大模型技术在企业级场景中的深入应用,一个颇具代表性的困境逐渐浮出水面:企业投入大量资源构建了RAG检索系统、知识图谱甚至Agent应用,却依然无法有效控制大模型的幻觉问题。当常规手段屡屡碰壁后,不少团队将目光转向了更「硬核」的解决方案——构建业务本体(Ontology)。在他们看来,只要把企业的核心概念、实体关系、业务规则全部结构化地沉淀到知识图谱中,大模型就能「扎根」于真实业务语境,幻觉自然会迎刃而解。然而,这种将本体视为「银弹」的思维,本质上折射出对AI系统复杂性的认知不足。

Agent场景下的五类幻觉

要理解本体为何无法独挑大梁,首先需要对Agent场景下的幻觉类型进行系统分类。业界常见的幻觉问题至少可以划分为五个维度:

本体的「腐化」风险:披着结构化外衣的更危险幻觉

第一类是检索幻觉,源于RAG系统返回的文档片段存在错误或缺失,导致大模型基于错误素材进行作答;第二类是关系幻觉,指大模型自行「脑补」业务实体间的关联,而这种关联在事实层面并不存在;第三类是推理幻觉,发生在多跳推理场景中,随着推理链路延伸,语义逐渐漂移,最终导出弱关联甚至无关的结论;第四类是口径幻觉,即同一业务指标在不同部门存在不同定义,Agent未能识别这种差异,直接给出了不符合用户预期的答案;第五类是生成幻觉,属于大模型在生成环节的概率性「胡说」,如凭空捏造不存在的法规条文或供应商名称。 本体能够有效应对的,主要是关系幻觉和推理幻觉——前者因为本体中预定义了明确的实体关系边界,大模型无需自行猜测;后者因为本体的结构化路径为多跳推理提供了更可靠的上下文。然而,对于检索幻觉,本体无能为力,这属于检索工程层面的问题;对于口径幻觉,本体只能提供有限帮助,前提是将指标定义完整地挂载到本体上;对于生成幻觉,本体的作用更为有限,至多通过提供更精准的上下文间接降低概率。综合来看,本体能够覆盖的幻觉类型,大约只占全部问题的四成左右。

本体不是幻觉的银弹,而是幻觉治理拼图中的一块。它值得建,但要在检索质量、指标语义之后建,而且要配上公理剪枝、治理闭环和规则约束。否则,你得到的不是更少的幻觉,而是穿着「结构化推理」外衣的更危险的幻觉。

“AI科技观察”
🦞

JimoClaw — 桌面 AI Agent 工作台

让 AI 处理本地资料、操控浏览器,最终交付可直接使用的文档、表格与 PPT,而不只是一段回答。

下载桌面版

「展示型」本体与「消费型」本体的本质差异

更值得关注的是,即便企业成功构建了高质量的本体,这张「蓝图」也并非一劳永逸。业务环境始终处于动态变化中——新产品上线、旧供应商淘汰、组织架构调整、考核口径变更,这些都会导致本体的时效性逐渐丧失。一个三个月前构建的实体或关系,可能在今天已经不再适用。而过时的本体一旦被Agent消费,会产生一种特别棘手的幻觉:Agent会以「图谱推理路径」作为背书,给出看似有理有据、实则错误的结论。 这种幻觉之所以更加危险,是因为它披上了「结构化推理」的外衣。裸大模型编造的答案,用户往往能凭直觉判断其可信度;但经过本体「加持」的结论,由于具备了推理过程和路径支撑,用户反而容易放松警惕,误以为「有图谱支撑应该不会错」。这正是本体腐化带来的最大隐患——它不是在消除幻觉,而是在为幻觉披上一层更难识别的伪装。

回归系统思维:幻觉治理的五块拼图

🛡️

积墨 AI 安全隐患巡检系统

任务一键下达 · 隐患 AI 识别 · 整改全程留痕 · 报告一键生成。让安全巡检真正看得见、管得住、能闭环。

了解方案

如有侵权,请联系删除。

Related Articles

联系我们 试用咨询
小墨 AI