TAG:AI安全
开源监控平台 Grafana 曝提示词注入漏洞，黑客可诱导 AI 助手泄露企业敏感数据
本文详细介绍了开源监控平台 Grafana 披露的“GrafanaGhost”安全漏洞。该漏洞利用间接提示注入技术，可能误导 AI 助手将企业敏感数据通过 URL 参数泄露至外部服务器。尽管官方表示该漏洞并非零点击触发且已完成修复，但其揭示了 AI 集成功能面临的新型安全挑战。文章分析了漏洞原理及官方应对措施，并提醒用户及时更新版本以保障数据安全。
0 
0 
上海加快打造智能经济新形态 探索加码AI安全
本文介绍上海正全面推进“人工智能+”行动，从AI+制造、生产性服务业、AI4S三大方向发力打造智能经济新形态，同时聚焦AI安全风险防控，通过发布原生安全操作系统、推进智能体评测标准制定等举措，保障AI产业健康有序发展。
Gemini 更新助力危机用户更快获取心理健康支持
谷歌聊天机器人Gemini近日推出重要更新，旨在帮助处于心理危机，特别是与自杀或自残相关的用户，更快地获取专业心理健康支持。此次更新引入了“可获得帮助”模块和“一键式”界面，能自动识别危机对话并引导用户至自杀热线等资源，同时提供更具同理心的回复。谷歌还承诺未来三年内向全球心理健康热线捐赠3000万美元。此举不仅是对此前争议的回应，更体现了谷歌对人工智能产品安全性和社会责任的重视，以及提升对弱势用户保护能力的决心。
OpenClaw高危漏洞细节曝光，360漏洞挖掘智能体揭示AI原生应用安全新挑战
360漏洞挖掘智能体近日成功发现并上报AI智能体OpenClaw的3项高价值安全漏洞，包括1个高危漏洞和2个中危漏洞，均已获官方修复。这些漏洞涉及本地脚本执行、OAuth授权参数复用及语音通话WebSocket处理，可能导致设备控制、账号接管或系统崩溃。此次发现不仅揭示了AI原生应用在权限隔离和协议实现上的深层安全挑战，也标志着AI驱动的自动化漏洞挖掘技术在保障AI产业链底层安全方面迈出了关键一步，为未来的AI安全防御体系构建提供了重要支撑。
国家安全部发布Token安全警示 日均词元调用量超140万亿 严防身份劫持与金融骗局
国家安全部就AI核心“词元”（Token）发布安全警示，指出在日均调用量超140万亿的背景下，Token面临严重的数据泄露、身份劫持与金融诈骗风险。文章揭示了不法分子窃取词元的手段及利用“囤词元”进行的非法集资活动，并建议用户通过正规加密渠道使用服务并开启双因素认证，以构建合规稳健的AI产业生态。
360安全云龙虾保破解企业应用困局 应对频发安全事件
本文揭示了OpenClaw（“龙虾”）AI智能体在企业应用中带来的严重安全隐患，公安部网安局和国家互联网应急中心已发出预警，并披露了API密钥泄露、供应链攻击等多起触目惊心的安全事件。面对传统防护失效的困境，360安全云率先推出“龙虾保”解决方案，针对OpenClaw全生命周期构建实战化防御体系。该方案提供龙虾资产发现、恶意技能防护、安全体检及高敏行业“禁止龙虾”等功能，旨在帮助企业安全释放AI生产力，破解AI应用“看不见、管不住、禁不掉”的核心难题。
蚂蚁集团与清华联合开源ClawAegis 应对智能体安全风险
蚂蚁集团与清华大学联合开源智能体安全插件ClawAegis，专为OpenClaw框架打造。该插件覆盖智能体全生命周期，提供轻量化纵深防御体系，有效拦截指令注入、数据污染及权限越界等威胁。通过无缝集成与动态防护，助力构建安全可信的智能体运行环境。
蚂蚁AI安全实验室开源ClawAegis 破解OpenClaw类智能体安全难题
蚂蚁集团AI安全实验室联合清华开源ClawAegis插件，首创覆盖OpenClaw全生命周期防御体系。该工具可无缝集成，动态拦截指令注入与意图篡改等威胁，提供轻量化即时防护。旨在系统化解智能体安全风险，共建可信可控AI生态。
美国AI巨头51万行源代码泄露！开发者直接“抄作业”？律师提示有风险
本文报道了AI巨头Anthropic因npm打包失误，导致Claude Code超51万行源代码意外泄露的事件。文章详细解析了泄露代码中曝光的AI电子宠物与持久化助手等前沿功能，指出该事件虽为开发者提供了技术参考，但商业化使用面临显著法律风险，同时也引发了业界对AI企业代码安全管理的关注。
OpenClaw再现高危漏洞 超17万实例存安全风险
360数字安全集团发现OpenClaw存在高危漏洞，影响全球超17万个实例。该漏洞可绕过权限控制窃取服务器敏感信息，凸显AI智能体领域的安全隐患。文章探讨了AI技术发展中的安全挑战及防护重要性。
Anthropic 发送 DMCA 通知，大规模下架 8100 个源码仓库
AI公司Anthropic针对源代码泄露事件发起大规模法律行动，通过DMCA通知下架GitHub上8100个Claude Code源码仓库。调查显示泄露源于工具BUG而非人为失误，暴露自动化流程安全漏洞。尽管官方清理行动迅速，源码已在全球范围内扩散，引发开发者持续研究。
AI从能说迈向能干 阿里巴巴联合上海人工智能实验室发布安全白皮书
阿里巴巴与上海人工智能实验室联合发布《守己利他：智能时代做负责任的技术》AI安全白皮书，探讨AI从对话交互向智能体进化过程中的安全隐患，并提出行业治理的中国方案，强调安全、责任与合作的重要性。
AI独角兽Mercor遇袭 LiteLLM开源项目遭恶意代码入侵
AI独角兽Mercor证实其开源项目LiteLLM遭遇供应链攻击，恶意代码被植入并波及数千家企业。黑客组织TeamPCP和勒索组织Lapsus$均声称参与攻击，导致敏感数据泄露。文章分析了此次事件对AI基础设施安全的影响，并探讨了开源工具合规性的重要性。
Anthropic安全神话破灭 一周内两次重大数据泄露
Anthropic作为以安全著称的AI公司，近期连续遭遇两次重大数据泄露事件，包括51.2万行核心源代码意外公开。这些人为失误不仅暴露了其工程管理漏洞，还影响了公司声誉和行业话语权。文章分析了事件对竞争对手OpenAI的影响，以及Anthropic在AI竞赛中面临的挑战。
DeepMind创始人警告：超级AI或致人类灭绝 竞赛难止
DeepMind创始人德米斯·哈萨比斯警告超级AI可能导致人类灭绝，并指出全球AI研发竞赛已进入失控状态。商业竞争使传统治理手段失效，安全规范让位于研发速度。文章探讨了AI安全面临的严峻挑战及少数技术领袖的道德责任。
