TAG:数据投毒

Anthropic 移除 Claude Code 中隐藏的用户代码引发关注

Anthropic 移除 Claude Code 中隐藏的用户代码引发关注

Anthropic Claude Code 被发现从4月2日至7月1日秘密运行一段隐藏代码,长达三个月未在任何更新日志或官方文档中披露。该代码专门针对中国用户及通过百度、字节、MiniMax等国内AI企业代理的用户,采用Unicode隐写技术结合设备时区和双重加密域名黑名单进行隐蔽识别,命中后注入虚假工具调用数据实施“投毒”,阻止模型蒸馏。官方事后称系防止账号倒卖的短期实验并已移除,但长期隐瞒、广泛误伤合规用户及严重损害开发者信任等问题引发强烈争议。该事件曝光时机与美国解除AI模型出口限制形成反差,凸显A

2026-07-02 17:54
44
0

国家安全部提醒消费者要警惕AI给出的可疑推荐 相关黑灰产业链已形成

国家安全部提醒消费者要警惕AI给出的可疑推荐 相关黑灰产业链已形成

国家安全部近日发文揭露AI“投毒”黑灰产业链,深入解析了数据投毒和模型投毒等隐蔽手段。文章指出,不法分子通过污染训练数据或植入恶意后门,误导AI输出失真结果,不仅侵害消费者权益,更对国家政治、数据及社会安全构成严重威胁。呼吁AI运营者切实履行主体责任,消费者提高警惕,共同筑牢人工智能安全屏障,推动技术向善发展。

2026-04-21 14:46
0
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/