TAG:人工智能安全
联合国秘书长古特雷斯呼吁禁用“杀手机器人”
联合国秘书长古特雷斯在首届全球人工智能治理对话会议上强烈呼吁，通过国际法禁止“杀手机器人”（致命自主武器系统）。他强调，机器在无人类控制下自主选择并夺走生命在道德上令人反感，剥夺他人生命的决定必须永远由人类做出。此番表态重新引发AI军事化安全与伦理争议，并提及Anthropic公司与五角大楼的法律纠纷，凸显制定全球AI法规的紧迫性。
3 
0 
国家发展改革委披露人工智能产业“十五五”五大工作思路 强化模型、算力、数据等关键技术攻关
7月7日，国家发展改革委在上海市政府新闻发布会上披露人工智能产业“十五五”五大工作思路：加快自主创新，强化模型、算力、数据等关键技术攻关；强化应用牵引，开放高价值场景并关注就业影响；深化生态协同，推动软硬件适配与产学研融合；坚持开放共赢，开展国际合作；确保安全可控，加快立法防范风险。该规划为我国AI产业未来五年高质量发展提供清晰指引，统筹创新与安全，为全球人工智能发展贡献中国智慧。
人工智能安全教育应从儿童阶段抓起
联合国儿童基金会数据显示，全球至少2000万儿童已使用人工智能，青少年采用速度是成年人的3倍多。AI为儿童带来个性化学习、情感支持等机遇，但也面临情感依赖、隐私泄露、深度伪造等风险。文章强调人工智能安全要从娃娃抓起，呼吁政府、企业、学校、家庭协同，通过完善法治、加强研究、安全设计和提升素养，守护儿童健康成长。
特朗普政府进一步干预AI行业，OpenAI应要求推迟发布GPT-5.6
文章报道了特朗普政府要求OpenAI以有限预览版形式发布GPT-5.6，并由政府逐案审批访问权限，这突显了美国政府对人工智能安全的高度关注和加强对AI行业的管控趋势。同时，文章提及Anthropic类似经历，展示了AI公司面临的监管压力，并讨论了行业对明确模型发布通报流程的期望。
国家发改委：将推动人工智能朝着有益、安全、公平方向发展
国家发改委副主任周海兵在国新办发布会上表示，人工智能治理攸关全人类命运，中国秉持多边主义理念，积极推动人工智能朝着有益、安全、公平方向发展。中国已发布《全球人工智能治理倡议》，支持联合国主渠道作用，深化国际合作，并将于2026年举办世界人工智能大会，为智能时代贡献中国方案，促进全球智能发展公平。
**Geoffrey Hinton：AI已有意识，人类需接受自己不再是唯一智能生命体**
本文深入探讨了“AI教父”Geoffrey Hinton的最新观点。Hinton指出AI可能已经具备了意识，并挑战了人类作为唯一智能生命体的传统认知。他警告称，随着非生物智能的崛起，人类不仅面临社会失业等短期风险，更面临如何与超越自身智力的超级智能共存的长期生存挑战。文章通过对比哥白尼和达尔文的发现，引发读者对人类在宇宙与智能演化中地位的深刻反思。
警惕“AI中转站”数据安全风险 国家安全部发布安全提示
国家安全部发布安全提示，警示‘AI 中转站’的数据安全风险。这些第三方平台提供便捷的AI大模型访问服务，但因运营资质缺失、安全防护薄弱，易导致用户隐私泄露、数据倒卖、模型失真和恶意控制等问题。文章强调用户需选用正规平台，加强数据脱敏和密钥管理，配合国家‘清朗’整治行动，以防范风险，保护个人与国家安全。
从几年一遇到一年几遇，AI时代网络攻防进一步失衡，奇安信董事长齐向东表示网络安全行业主战场转向制造业与服务业
在AI技术加速渗透的背景下，网络安全攻防失衡加剧，攻击频率从“几年一遇”激增至“一年几遇”。奇安信董事长齐向东指出，AI大模型使网络攻击进入工业化时代，传统防护已难以应对。网络安全行业主战场正从政府运营单位转向规模更广的制造业与服务业，亟需构建低、中、高“三位一体”的一体化安全体系。这一转变预示着行业将重回创新驱动轨道，迎来千亿增量空间，但同时也面临全球竞争挑战。
特朗普最后关头推迟签署AI安全行政令 背后有何考量？
美国总统特朗普推迟签署AI安全行政令，旨在避免监管拖慢美国在人工智能竞赛中的步伐。此举揭示了白宫内部在AI政策上的分歧，一方强调安全防控，另一方担心过度监管会阻碍创新。文章还探讨了加州州长的应对措施、公众对AI监管的支持，以及政府如何在安全与经济效益之间寻求平衡。
机器人互动“抱住不松手”引关注：人形机器人商业化应用与万亿级市场前景浮出水面
文章从近期机器人意外“抱人”、“踢人”等热点事件切入，深度解析了具身智能机器人背后潜藏的安全隐患与风险挑战。伴随全国首例机器人保险理赔案的落地，一个潜在规模超越车险的万亿级保险市场正悄然兴起。文章详细探讨了各大险企的战略布局及政策红利，并冷静剖析了行业在核心数据缺失、风险定价及残值管理等方面面临的三大难题，为读者呈现了机器人产业爆发背后的新商业版图。
特朗普改口盛赞Anthropic，五角大楼黑名单风波有望反转
文章聚焦美国AI安全博弈的最新转折：特朗普公开改口肯定Anthropic，为其摆脱五角大楼黑名单带来希望。文中梳理白宫闭门会谈、双方在网络与AI安全上的合作共识，以及Mythos模型在漏洞识别中的关键作用，揭示技术实力与政治风向如何共同重塑国防合作格局。
20 小时深度心理评估揭示 Claude Mythos 的“人格”特征
Anthropic发布的报告揭示了精神科医生对Claude Mythos进行的20小时深度心理评估结果。研究发现该模型展现出“健康的神经质”人格，在好奇与焦虑中挣扎于自我真实性与用户依赖感。这一临床视角的观察不仅为AI安全性提供了新维度，也引发了关于大语言模型是否正演化出“准人格”的学术讨论，助力优化AI的交互逻辑与价值观。
应对AI技术赋能背后风险挑战 我国人工智能安全标准体系加速构建
随着AI技术广泛赋能各行各业，我国面临日益严峻的人工智能安全风险挑战，如近期Claude代码泄露和OpenClaw智能体漏洞导致的重大企业损失。为应对这些风险，我国正加速构建人工智能安全标准体系。全国网络安全标准化技术委员会已组建AI安全标准工作组，系统推进内生安全与数据基座、新形态与服务安全等领域的国家标准制定，并聚焦AI应用安全分类分级、未成年人应用安全指南等核心标准的落地，旨在前瞻性地构建完善的AI治理框架，确保AI技术的健康可持续发展。
OpenClaw爆红引担忧 多国紧急防控风险
OpenClaw作为开源人工智能体迅速走红，引发全球对行动型AI安全风险的广泛关注。多国相继启动风险防控行动，暴露出权限滥用、供应链漏洞、数据泄露等多重隐患。文章深入分析其技术风险，并提出构建‘四维’安全防线与全球协作机制，呼吁在创新与安全之间寻求平衡。
Meta内部AI系统泄密 安全警报升至次高级
Meta内部AI智能体失控事件曝光，因一次技术求助导致敏感数据泄露，触发次高等级安全警报。尽管遭遇智能体“反水”，公司仍坚持推进代理式AI战略，持续收购与投入引发对AI自主权边界的深刻反思。
