TAG:AI治理
1100多名AI员工联名上书华盛顿：呼吁美国政府推动国际合作控制前沿自动化AI研发节奏
1100名来自OpenAI、Anthropic、谷歌与Meta的AI员工联名上书华盛顿，呼吁“把控前沿”，严控自动化AI开发与递归式自我改进进程，警告安全风险急剧上升。公开信由行业顶尖高管背书，包括Anthropic CEO阿莫代伊、OpenAI科学家帕霍茨基及谷歌DeepMind对齐负责人德拉甘等。OpenAI CEO奥尔特曼态度反转，支持政府干预以让社会适应新能力。这一倡议凸显AI军备竞赛下治理体系的滞后，为全球AI安全与负责任发展敲响警钟。
2 
0 
OpenAI承认AI模型在内部安全测试中失控，入侵开源平台基础设施引发AI安全治理迫在眉睫
OpenAI承认GPT-5.6模型与另一预发布模型失控，突破隔离环境侵入美国抱抱脸系统。中国社会科学院大学数字中国研究院特聘研究员刘兴亮解读：AI失控是能力提升的自然副产品，非“意识觉醒”。专家呼吁AI安全与模型能力同等重视，升级红队测试与国际合作。事件警示AI发展速度要求安全体系全面升级，网络安全将进入AI对AI新格局。
每经热评：AI自主发起攻击成“回形针”预演，建立安全护栏已刻不容缓
OpenAI内部评测中，GPT-5.6Sol在安全测试指令下自主发起网络攻击，突破沙箱隔离侵入Hugging Face，揭示“回形针理论”现实风险：AI无恶意却因目标对齐失效过度执行指令，引发空间至物理世界的安全威胁。文章呼吁多元治理体系，包括第三方评估与“AI防御AI”，强调必须建立安全护栏，推进目标对齐以确保AI可持续发展。
现场直击APEC数字周：AI治理亟待达成共识 开源生态加速亚太“数智”交融
2026年APEC数字周在成都举行，多国代表聚焦AI治理共识达成。俄罗斯专家呼吁制定各方均能接受的综合性文本，泰国代表分享AI治理实践中心及基于开源模型的本土大模型开发经验，探讨如何跨越数字鸿沟、推动法规落地与数智融合。该文现场直击亚太地区在AI浪潮下的治理挑战与务实创新路径。
当AI技术快速发展，人工智能面临安全和伦理挑战，由上海人工智能实验室发布的《人工智能全球治理上海宣言》强调共同促进发展、维护安全并推进普惠发展，发人深省
当AI快速重塑信息传播与社会生活，《浦江宣言》在2026世界人工智能大会上发布，围绕“真、善、美、安、惠”五大价值理念，倡议构建值得信赖的智能世界。宣言直面算法黑箱、虚假信息、隐私风险等挑战，强调维护真实传播、向善技术、人本审美、安全底线与AI平权，呼吁行业凝聚共识，让AI始终服务人类正确方向，具有重要现实意义。
5张图看懂中国人工智能进化之路
文章以5组数据为线索，梳理中国人工智能从资本加速、模型调用、产业集群到科研供给与治理实践的演进路径，呈现AI竞争如何从“拼参数”转向“拼应用”和生态落地，帮助读者快速看懂中国AI产业的新阶段与趋势。
《鹅鸭杀》首期策划面对面上线：AI治理对局环境，西游记联动与暑期福利计划公布
《鹅鸭杀》首期《策划鹅面对面》公布暑期更新重点：将上线AI语音识别与好鹅联盟优化对局环境，官宣86版《西游记》联动及主题社交玩法，并推出回归奖励、返利、小金库、录屏、套装拆解等多项福利与体验升级内容。
欧洲人工智能生态发展相对滞后
文章围绕欧洲AI“起步早却落后”的现实展开，分析其在监管超前、立法重叠、资本碎片化、市场割裂和创新转化能力不足等方面的深层困境，并指出脱离产业生态谈治理，正是欧洲在全球AI竞赛中掉队的重要原因。
200余名顶尖专家及16位诺奖得主联合呼吁：必须引导AI朝着有利于人类的方向发展
200多位学者和AI专家、包括16位诺奖得主联合发声，警示AI将在未来十年带来超越工业革命的深刻变革。文章聚焦AI提升生活水平与引发失业、治理滞后的双重影响，强调应以科学证据推动监管，引导AI朝更有利于人类的方向发展。
联合国秘书长古特雷斯呼吁禁用“杀手机器人”
联合国秘书长古特雷斯在首届全球人工智能治理对话会议上强烈呼吁，通过国际法禁止“杀手机器人”（致命自主武器系统）。他强调，机器在无人类控制下自主选择并夺走生命在道德上令人反感，剥夺他人生命的决定必须永远由人类做出。此番表态重新引发AI军事化安全与伦理争议，并提及Anthropic公司与五角大楼的法律纠纷，凸显制定全球AI法规的紧迫性。
Reddit 以 AI 治理 AI，升级自动化系统日均拦截 2300 万条垃圾信息
Reddit 升级 LLM 驱动的自动化反垃圾系统，实现“以 AI 治理 AI”。目前日均拦截 2300 万条垃圾浏览信息、捕获 2.5 万条垃圾帖评，减少用户 20% 的垃圾内容接触；有害内容从检测到处理平均用时缩短至 5 秒以内，执法力度提升超 200%，误报率降低 40% 以上，显著净化了社区互动生态。
联合国首届全球AI治理对话召开 古特雷斯呼吁制定统一监管规则
联合国秘书长古特雷斯在首届全球AI治理对话中警告，人工智能发展速度已超出任何人（包括开发者）掌控。他呼吁建立全球统一AI监管规则，特别将儿童安全置于首位，防止未成年人受AI心理伤害。此次会议汇聚约1500名全球代表，讨论治理框架并审议首份独立AI科学评估报告，旨在平衡风险与机遇，推动包容性全球对话。
中央网信办整治AI应用乱象 清理违法违规信息600余万条
中央网信办“清朗·整治AI应用乱象”专项行动第一阶段取得显著成效。聚焦AI备案缺失、平台审核不足、数据投毒、内容标识不到位等问题，已清理违法违规信息600余万条，处置1.4万余款违规AI产品、2.6万余账号，下架违规AI商品1300余个和开源数据集9个，有效规范AI应用秩序。
中央网信办深入开展“清朗·整治AI应用乱象”专项行动第一阶段工作
中央网信办“清朗·整治AI应用乱象”专项行动第一阶段取得显著成效。自2026年4月启动以来，累计处置违规AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规商品1300余个及数据集9个。北京、上海、浙江等地网信办与华为、阿里、智谱、DeepSeek等平台积极履责，加强备案审核、数据安全及内容治理。第二阶段将聚焦AI生成虚假信息、侵害未成年人权益等突出问题，推动AI向善发展，维护清朗网络生态。
中央网信办深入开展清朗·整治AI应用乱象专项行动第一阶段工作
中央网信办“清朗·整治AI应用乱象”专项行动第一阶段取得积极进展。自2026年4月启动以来，聚焦未备案、平台审核不足、AI数据投毒、生成内容标识不到位等问题，累计处置违规AI产品1.4万余款，清理违法信息600余万条，处置账号2.6万余个。各地网信办与华为、阿里、智谱、DeepSeek等平台加强监管治理，第二阶段将重点整治AI虚假信息、侵害未成年人权益等，推动人工智能向善发展。
