从 “内容合规” 到 “行为可控”重构AI智能体安全治理

酷安智能副总裁杜智伟受邀出席论坛，，并发表了题为《从“内容合规”到“行为可控”，，，智能体失控风险下的AI治理范式重构》的主题演讲
。。。杜智伟指出，，，，AI大模型正在完成一次深刻的角色蜕变——从过去“能说会道”的信息处理器，，，，进化为“能自主完成任务”的自治Agent
。
。。以OpenClaw、
、Manus为代表的第三代数字员工类智能体
，，，已具备长程自主规划、
、、环境感知与跨系统操作能力。。
。。这一跃升，，，标志着我们正式迈入“智能体元年”。。。

然而，，，
，AI越智能、、
、、价值越突出，，，
，在深度融入企业级生产场景后，，风险也随之放大，，安全治理重心亦发生转变。。。。酷安智能安全研究团队将当前AI智能体的核心风险归纳为三类：权限滥用、、、高级提示注入攻击以及“涌现行为”引发的逻辑黑盒。。。

面对这些挑战，，酷安智能提出了从“内容合规”向“行为可控”的治理范式转型，，并给出三大防御思路：