菜单
杜智伟

杜智伟

深信服受邀分享AI智能体安全治理'新解法'

在2026年世界互联网大会亚太峰会上,深信服副总裁杜智伟就AI智能体安全治理发表演讲,强调应从传统的内容合规向行为可控的治理范式转型,以应对新一代数字员工类智能体带来的复杂风险。

从内容合规到行为可控的治理范式

杜智伟指出,第三代智能体(如OpenClaw、Manus)在权限滥用、高级提示注入攻击和涌现行为等方面存在显著风险,单纯依赖内容审核已不足以保障安全,需要构建面向行为的防护体系。

三大防御思路:零信任、动态最小权限与全链路护栏

演讲提出基于零信任访问控制、动态最小权限原则以及全链路AI安全护栏的三大防御思路,通过严格权限边界、按需授权与运行时监测与回滚机制,降低智能体在实际应用中被滥用或走偏的概率。

应从内容合规向行为可控转型,构建安全原生智能体应用体系。

“小墨”
积墨 AI 核心产品

积墨 AI 智能体开发平台

快速搭建具备商业价值的 AI 智能体,支持复杂工作流编排、50+ 主流模型接入与私有化部署。

面向安全原生的智能体应用体系

基于上述防御思路,建议在智能体开发与部署环节嵌入安全能力,推动安全原生的智能体应用体系建设,包括权限治理、可审计决策路径与异常行为应急机制等。

行业启示与实践方向

这一治理框架为企业和平台在推进智能体应用时提供了可操作路径,强调跨层协同与持续演进,同时呼吁业界在标准、工具与生态建设上加强合作,以实现既能释放智能体价值又能可控可审计的应用场景。

如有侵权,请联系删除。

#智能体安全#零信任#最小权限#提示注入#行为可控
分享文章

相关文章推荐

试用咨询
企业微信二维码

扫码添加企业微信