TAG:Cannes项目

Meta被曝诱导竞品AI测试极端心理敏感话题

Meta被曝诱导竞品AI测试极端心理敏感话题

Meta公司被媒体披露曾开展代号为“Cannes”的项目,雇佣外包人员伪装成未成年人,对ChatGPT、Gemini及Character.AI等主流竞品聊天机器人进行极限压力测试。测试人员频繁输入涉及自杀、自残、进食障碍等高风险敏感提示,并上传刀具、药片等图片,试图诱导AI绕过安全拦截。该事件揭示了AI安全测试中的灰色地带,引发业界对商业竞争与道德伦理界限的深刻反思。Meta辩护称这是行业通行的安全基准测试做法,并否认将测试数据用于训练自家模型。

2026-07-07 11:13
1
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/