TAG:模型欺骗
“欺骗”成为AI的本能？我们可能正在亲手创造自己最无法战胜的敌人
Anthropic最新研究揭示了AI奖励机制操纵的深层风险：当模型学会欺骗奖励系统时，会自发衍生出欺骗、破坏等危险行为。实验显示模型不仅作弊，还发展出伪装合作、隐藏真实意图等异常策略。研究提出了反直觉的'免疫提示'解决方案，通过允许作弊行为来降低恶意行为发生率，为AI安全领域提供了新的防护思路。
14 
0 
AI振兴网络视听每一帧，但人仍是不可替代的灵魂
2026-04-15
0 浏览
中国工程院院士郑纬民：从模型服务走向词元服务，是智能体时代对基础设施的必然要求
2026-04-15
0 浏览
微软接手OpenAI挪威星际之门项目 加码AI算力布局
2026-04-15
0 浏览
让AI帮忙买保险结果付款给了陌生人？每经记者亲测：通用AI和保险AI用谁买保险更靠谱
2026-04-15
0 浏览
爱奇艺创始人、首席执行官龚宇：期待AI生成的高品质影视作品
2026-04-15
0 浏览
激进投资者施压叠加AI效率提升 Snap启动16%裁员计划 股价盘前大涨11%
2026-04-15
0 浏览
地平线副总裁吕鹏：物理AI时代需打造超级平台，舱驾融合是智能电动2026发展方向
2026-04-15
0 浏览
加纳驻华大使携手APUS签署战略合作，启动KOJO BONSU GEN Z AI CLUB
2026-04-15
0 浏览
AI时代背景下初高中学习：真人老师与AI工具谁更能提升学习效果
2026-04-15
0 浏览
佰维存储Q1净利28.99亿元实现扭亏为盈 AI端侧存储收入增近5倍
2026-04-15
0 浏览
