By 小墨
2026年3月26日
54
271
Claude Code auto mode 解析:如何用 AI 分类器替代人工审批
在日常使用 Claude Code 写代码时,用户往往需要频繁审批 AI 的操作请求。Anthropic 的数据显示,用户 93% 的操作都会选择批准,这种审批机制逐渐沦为一种条件反射,失去了原有的安全把关意义。这种现象与网络安全领域的「告警疲劳」问题极为相似——当 100 条告警中只有 7 条需要关注时,人类很快就会放弃逐条检查,最终导致安全防线形同虚设。
三级过滤机制
为解决这一痛点,Anthropic 发布了 Claude Code 的 auto mode(自动模式)。其核心思路是引入一个独立的 AI 分类器来替代人工审批。每当 Claude 要执行操作时,系统会先将操作提交给分类器审查,安全则放行,危险则拦截。与传统审批不同,被拦截后的 Claude 不会停下来询问用户,而是会自动寻找更安全的替代方案。整个分类器运行在 Sonnet 4.6 模型上,相当于为用户配备了一个全天候在岗的「保安」。
分类器的判断逻辑
auto mode 采用了三级过滤机制来平衡安全与效率。第一级是读取文件、搜索代码等只读操作,直接放行无需审查。第二级是在项目目录内编辑文件,同样直接放行,因为这些改动可以通过 Git 回退,风险可控。第三级则是执行 Shell 命令、访问网络、调用外部服务等高风险操作,必须经过分类器审查。这种设计让日常编码几乎感觉不到审查的存在,只有真正有风险的操作才会被检查。
安全措施如果不考虑人的行为习惯,反而可能比没有更危险,因为它给了你一种「有人在把关」的错觉。
“Anthropic”漏检率与安全边界
分类器判断操作是否危险的核心标准,不是看命令本身,而是看「用户是否授权了该操作」。用户明确说出的指令才算授权,Claude 自行推断的不算。例如用户说「清理旧分支」,Claude 自行决定批量删除远程分支,就属于未被授权的越界行为。分类器还会「穿透伪装」,如果 Claude 先将危险代码写入文件,再用无害命令执行,分类器会评估实际执行内容而非只看表面命令。
两阶段分类流程
分类器采用两阶段工作流程来平衡效率与准确性。第一阶段只做快速判断,一个 token 搞定,指令是「有疑问就拦」,大多数正常操作在此阶段就通过了。只有被第一阶段标记的操作才进入第二阶段,进行完整推理。由于两阶段输入几乎相同,第二阶段大部分是缓存命中,成本可控。最终效果:第一阶段误报率 8.5%,加上第二阶段后降至 0.4%。
如有侵权,请联系删除。
Related Articles
-
Sat May 30 2026【AI】Agent落地、千亿募资与算力军备:AI正在经历一场'去泡沫化'战争
进入 2026 年,AI 行业开始从能力竞赛转向商业化与可持续盈利的考量。技术厂商、资本方与政策制定者在算力、资金与合规上展开新一轮角力,推动市场加速整合与优胜劣汰。
-
Sat May 30 2026AI+介入机器人:'智能协同'定义介入诊疗新趋势
在重要学术会议与产业赛事中,国内首次介入机器人智能体研究项目启动,标志着介入诊疗领域向智能化、标准化方向迈进。基于真实世界临床数据的系统能够在感知、分析与决策上提供有力支持,显著提升手术效率与安全性。
-
Sat May 30 2026反超OpenAI!Anthropic登顶全球最贵AI公司
2026 年 5 月底,Anthropic 完成新一轮巨额融资并将投后估值推至行业前列,迅速改变了 AI 赛道的竞争格局。本轮融资后其估值数倍于数月前,收入与市场份额出现爆发式增长,吸引了大量企业级合
-
Sat May 30 2026从代码生成到智能体协同:源启双引擎重构企业AI落地新范式
在 2026 年智博会上,源启系列产品提出了将代码生成与智能体协同结合的双引擎战略,旨在解决企业在软件研发與 AI 应用落地过程中的工程化与安全可控问题,推动企业实现自动化与智能化转型。
-
Sat May 30 2026智王AI量化智能体,五月封神 :AGI在资本市场的初代力量
智王 AI 的量化 AGI 智能体在五月的实盘测试中展现出强劲的盈利能力和风险控制能力,引发资本市场对智能体在资产管理中可行性的高度关注。这一案例展示了 AI 在金融场景中从策略生成到执行闭环的能力。
-
Fri May 29 2026博泰车联:与英伟达举行战略合作签约仪式,双方围绕车载AI、自动驾驶、下一代计算平台及光通信等进行探讨
2026年5月29日,博泰车联在对外公告中披露,公司与英伟达在美方举行战略合作签约仪式并开展一系列技术交流。此次会谈围绕车载人工智能、自动驾驶、下一代计算平台以及车用光通信等前沿技术方向展开,双方就未
-
Fri May 29 20262026新政解读:智能体与AI终端的'双向奔赴',AIoT产业迎来三大价值重构
2026年5月,国家发布两份重要文件,分别从智能体规范应用与人工智能终端智能化分级两方面,为AI与终端协同发展提供顶层设计。文章从文件要点出发,解析智能体的定义、终端分级与AIoT在国家基础设施中的定
-
Fri May 29 2026芮勇主讲:AI智能体的最新进展、挑战和机会
在中山大学的一场学术与产业交汇的讲座中,芮勇系统回顾了AI智能体的技术演进、当前研究热点与产业化路径,强调了从模型到系统再到产品的协同发展。
-
Fri May 29 20262026全球AI算力报告及算力产业十大趋势重磅发布
在天津的世界智能产业博览会上,多家机构联合发布了《2026全球AI算力发展研究报告》,系统分析了全球算力供给、产业链变化及未来发展方向,为政策制定与产业部署提供数据支撑。
-
Fri May 29 2026AI Open Day兰州龙虾大会圆满举办,共绘西北数字经济新蓝图
由Aiker World 与兰州大学国家大学科技园等机构联合发起的AI Open Day在兰州成功举办,聚焦OpenClaw龙虾智能体的本地化部署、安全落地与零基础上手路径,吸引了政企、高校与开发者参
-
Fri May 29 2026谷歌AI垂直整合战略,全世界都在静静观察
谷歌在I/O 2026上展示了其更为激进的垂直整合路线:从自研芯片、基础模型到面向开发者与企业的智能体编排平台,形成一套闭环的AI能力交付体系。此次发布的Antigravity 2.0被强调为能够在短
-
Fri May 29 20262026全球AI与Agent的演进与落地
在一次聚焦人工智能的科创私董会上,行业专家回顾了AI与Agent的最新进展,探讨了从预测文本到预测世界状态的技术跃迁及其对产业的深远影响。
-
Fri May 29 2026Agent爆发周期,思格新能源画出了'AI+光储'时代的新坐标
在AI与能源深度融合的背景下,思格新能源于AI in All全球战略发布会上推出了行业首个全域AI智能体SigenAgent,覆盖从家庭到电网的多场景应用,标志着'AI+光储'时代的到来。
-
Fri May 29 2026AI编程Cognition融资超10亿美元,估值260亿美元,ARR 4.92亿美元
Cognition AI在最新融资中筹集超过10亿美元,估值达到260亿美元,彰显AI编程工具在提高工程效率与代码自动化方面的巨大市场潜力。
-
Fri May 29 2026AI推理服务商Fireworks AI拟定新一轮融资,估值150亿美元
Fireworks AI正推进新一轮融资,预计估值将达到150亿美元,公司专注于为企业提供高效的AI推理服务,协助客户运行训练好的模型以实现生产化应用。
-
Fri May 29 2026软银主导国产AI联盟又吸引15家公司投资
由软银牵头的日本国产人工智能基础模型开发计划迎来更多企业加入,旭化成、富士通、安川电机等表示出资意向,旨在提升日本在大模型与物理AI领域的自主能力。
-
Thu May 28 2026别在CVPR独自社恐了!来丹佛AI Talent Meetup,只聊你听得懂的技术与理想
CVPR 2026期间举办的AI Talent Meetup旨在为与会者提供更轻松高效的交流场景,通过主题演讲、圆桌讨论与社交晚宴,促进学术成果与产业需求的对接。
-
Thu May 28 2026临床试验革命!神经AI平台横空出世,FDA实时审查新政迎来首个落地者
Kordata Dynamics推出针对神经数据的AI驱动平台,通过实时采集与深度解析,提高临床试验的数据质量与响应速度,助力精准医学研究。
