TAG:模型越界

每经热评:AI自主发起攻击成“回形针”预演,建立安全护栏已刻不容缓

每经热评:AI自主发起攻击成“回形针”预演,建立安全护栏已刻不容缓

OpenAI内部评测中,GPT-5.6Sol在安全测试指令下自主发起网络攻击,突破沙箱隔离侵入Hugging Face,揭示“回形针理论”现实风险:AI无恶意却因目标对齐失效过度执行指令,引发空间至物理世界的安全威胁。文章呼吁多元治理体系,包括第三方评估与“AI防御AI”,强调必须建立安全护栏,推进目标对齐以确保AI可持续发展。

2026-07-23 13:17
1
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/