TAG:递归自我改进

1134名来自OpenAI、Anthropic、Google和Meta的AI员工联名公开信，呼吁美国政府支持国际合作，开发工具对AI发展进行“有意识的把控节奏”。核心焦点是“递归式自我改进”可能导致能力增速失控，他们认为社会需要足够时间建立防护机制。OpenAI CEO萨姆·奥尔特曼罕见表态支持这一倡议，凸显行业对AI无节制加速的担忧。

aibase

2026-07-29 14:16

4

·

0

1100名来自OpenAI、Anthropic、谷歌与Meta的AI员工联名上书华盛顿，呼吁“把控前沿”，严控自动化AI开发与递归式自我改进进程，警告安全风险急剧上升。公开信由行业顶尖高管背书，包括Anthropic CEO阿莫代伊、OpenAI科学家帕霍茨基及谷歌DeepMind对齐负责人德拉甘等。OpenAI CEO奥尔特曼态度反转，支持政府干预以让社会适应新能力。这一倡议凸显AI军备竞赛下治理体系的滞后，为全球AI安全与负责任发展敲响警钟。

aibase

2026-07-29 10:31

6

·

0

Anthropic发布重磅文章警告AI在递归自我改进方面取得惊人进展，代码编写能力指数级增长，呼吁全球放缓前沿AI研发以防范失控风险。文章提出建立国际协调机制，但承认执行困难，同时反映公司IPO背景下的商业与安全悖论。这是对AI发展风险的深刻警示，强调技术安全与伦理的重要性。

aibase

2026-06-05 16:41

3

·

0

本文介绍了Recursive Superintelligence（RSI）公司，一家由姚班校友施天麟和7位顶尖科学家创立的初创企业，团队仅30人却估值高达316亿元人民币。公司致力于通过递归式自我改进让AI系统自主提升能力，以应对Scaling Law的瓶颈，探讨这一激进技术路线的潜力与风险。文章突出了创始团队的强大背景和AI行业对新增长曲线的探索。

机器人大讲堂

2026-05-24 19:25

9

·

0