TAG:智能体安全
多项AI安全治理成果在上海集中发布
2026世界人工智能大会期间，前沿AI与智能体安全论坛在上海举行，20余位全球顶尖专家聚焦“前沿AI风险监测”“智能体失控风险与应急管理”等三大主题，集中发布五项AI安全治理重磅成果，构建完整的技术工具、分级规范、应急方案与全球产业治理体系。
3 
0 
蚂蚁集团连发两款开源安全模型，为大模型与智能体套上安全“紧箍咒”
文章介绍蚂蚁集团开源两款AI安全模型SingGuard-NSFA与SingGuard，分别聚焦智能体行为安全和多模态内容安全，解决提示词注入、权限滥用、数据泄露等风险，展示其在实时拦截、规则更新和公开评测中的领先能力，体现蚂蚁在AI安全治理上的系统化布局。
蚂蚁集团牵头推动ASL协议，填补智能体可信协作领域空白
文章围绕蚂蚁集团牵头推动的ASL协议，解析跨Agent协作中的身份验证、意图防篡改和授权边界三大信任难题，并介绍其原生安全架构如何通过可验证、可审计的端到端信任链，推动企业级智能体安全可信互联落地。
应对AI技术赋能背后风险挑战 我国人工智能安全标准体系加速构建
随着AI技术广泛赋能各行各业，我国面临日益严峻的人工智能安全风险挑战，如近期Claude代码泄露和OpenClaw智能体漏洞导致的重大企业损失。为应对这些风险，我国正加速构建人工智能安全标准体系。全国网络安全标准化技术委员会已组建AI安全标准工作组，系统推进内生安全与数据基座、新形态与服务安全等领域的国家标准制定，并聚焦AI应用安全分类分级、未成年人应用安全指南等核心标准的落地，旨在前瞻性地构建完善的AI治理框架，确保AI技术的健康可持续发展。
蚂蚁集团与清华联合开源ClawAegis 应对智能体安全风险
蚂蚁集团与清华大学联合开源智能体安全插件ClawAegis，专为OpenClaw框架打造。该插件覆盖智能体全生命周期，提供轻量化纵深防御体系，有效拦截指令注入、数据污染及权限越界等威胁。通过无缝集成与动态防护，助力构建安全可信的智能体运行环境。
蚂蚁AI安全实验室开源ClawAegis 破解OpenClaw类智能体安全难题
蚂蚁集团AI安全实验室联合清华开源ClawAegis插件，首创覆盖OpenClaw全生命周期防御体系。该工具可无缝集成，动态拦截指令注入与意图篡改等威胁，提供轻量化即时防护。旨在系统化解智能体安全风险，共建可信可控AI生态。
