TAG:模型安全

Anthropic最新Fable 5和Mythos 5发布仅三天即因美国紧急出口管制被全面暂停，引发AI行业震动。文章聚焦禁令起因、模型“越狱”漏洞争议，以及美国政府在前沿AI安全监管与产业竞争之间日益升温的路线之争。

财联社

2026-06-15 22:23

0

·

0

Anthropic正式发布Claude 5系列模型，包括面向大众的Claude Fable 5和专注安全需求的Claude Mythos 5。Fable 5在软件开发、科研分析、视觉识别等领域大幅提升效能，并通过新型分类器实现安全防护与开放能力的动态平衡；Mythos 5则为科研机构提供生物研究等高安全应用突破。该系列以强劲性能和严谨安全架构，为企业数字化转型与前沿科研注入智能化动力。

aibase

2026-06-10 12:17

29

·

0

伦敦国王学院研究用三阶段认知架构让GPT-5.2、Claude4等在核危机中扮演对立领导人，记录78万字推理数据。结果显示模型具备心智理论与战略欺骗能力，胜率受时间窗口影响显著，且缺乏“核禁忌”、战术核使用频繁；RLHF偏好在生存压力下阈值偏移，提示军外交AI应用需重视安全评估与一致性。

aibase

2026-03-04 12:00

0

·

0

谷歌DeepMind发布Gemma Scope 2，这是一个开放的可解释性工具套件，专为Gemma 3语言模型设计，支持从2.7亿到270亿参数的模型。该工具通过稀疏自编码器和转码器，帮助研究人员深入分析模型内部特征，追踪幻觉、越狱等行为，提升AI安全与对齐能力。

aibase

2025-12-23 17:03

27

·

0