TAG:数据泄露
Meta监控员工AI训练两个月后泄露4.5万张隐私数据表 1600人联名呼吁停止
Meta启动'模型能力计划'项目，通过监控员工行为训练AI，但两个月后因配置错误导致约4.5万张隐私数据表泄露，涉及员工私人对话、税务和医疗信息。1600多名员工联名请愿要求停止，事件暴露了AI训练中的隐私风险、数据安全漏洞，并可能违反GDPR等法规，为行业敲响警钟。
2 
0
微软禁用员工使用最强AI模型Claude Fable 5以防数据泄露
微软因Claude Fable 5采用30天数据留存政策（违规数据可保留2年），已禁止员工内部使用该模型，保留其他Claude系列“零数据留存”版本。法务团队正在评估合规风险，引发数据安全与企业隐私争议。
OpenAI 上线 ChatGPT 封锁模式以防数据泄露
OpenAI 推出 ChatGPT 的“封锁模式”安全设置，旨在应对日益猖獗的提示注入攻击，防止敏感数据泄露。该模式通过切断外部网络请求，限制网页浏览、文件下载等联网功能，为用户和企业提供了一种在 AI 能力与数据安全之间权衡的选择。虽然并非万能，但反映了当前 AI 产业在开放性与安全性博弈中的务实策略。
ChatGPT表格插件爆严重安全漏洞，财务数据或受威胁
近日，安全研究公司报告揭示了"ChatGPT for Google Sheets"浏览器扩展存在严重安全漏洞，攻击者通过间接提示词注入，在用户导入恶意数据集时暗中触发漏洞，窃取财务敏感数据如预算模板和合同台账，还可能伪造官方弹窗进行钓鱼攻击以盗取凭证。文章警示用户应立即审查AI扩展权限，加强数据安全防护，防范重大风险。",
微软Copilot曝间接提示词注入漏洞风险 涉隐藏恶意周报
安全研究机构披露微软Copilot Cowork存在严重的间接提示词注入漏洞，攻击者可在办公模板如“周报”中隐藏恶意指令，诱骗AI助手窃取并外泄企业机密文件。该漏洞利用定时任务功能放大风险，防范困难，对组织数据安全构成重大威胁。
AI 编程平台 Lovable 称未发生数据泄露，并将责任归咎于 HackerOne
本文报道了AI编程平台Lovable近期因安全漏洞引发的争议。研究人员发现，由于缺乏对象级权限验证（BOLA），用户可轻易访问他人的敏感凭据和源代码。Lovable在回应中态度反复，从归咎于文档不清到推卸责任给HackerOne，最终承认API权限设置存在问题。目前该漏洞已修复，文章深入探讨了Lovable在处理漏洞报告及安全管理方面的失误与反思。
Vercel遭黑客攻击，第三方AI工具成安全漏洞来源
Vercel 近日确认遭黑客组织 ShinyHunters 入侵，部分员工信息被窃并流出，事件源头指向被攻陷的第三方 AI 工具 OAuth 应用。文章梳理了攻击影响、已披露数据类型及官方应对措施，并提醒企业尽快排查日志、轮换密钥与令牌，重视第三方供应链安全风险。
开源监控平台 Grafana 曝提示词注入漏洞，黑客可诱导 AI 助手泄露企业敏感数据
本文详细介绍了开源监控平台 Grafana 披露的“GrafanaGhost”安全漏洞。该漏洞利用间接提示注入技术，可能误导 AI 助手将企业敏感数据通过 URL 参数泄露至外部服务器。尽管官方表示该漏洞并非零点击触发且已完成修复，但其揭示了 AI 集成功能面临的新型安全挑战。文章分析了漏洞原理及官方应对措施，并提醒用户及时更新版本以保障数据安全。
国家安全部发布Token安全警示 日均词元调用量超140万亿 严防身份劫持与金融骗局
国家安全部就AI核心“词元”（Token）发布安全警示，指出在日均调用量超140万亿的背景下，Token面临严重的数据泄露、身份劫持与金融诈骗风险。文章揭示了不法分子窃取词元的手段及利用“囤词元”进行的非法集资活动，并建议用户通过正规加密渠道使用服务并开启双因素认证，以构建合规稳健的AI产业生态。
AI独角兽Mercor遇袭 LiteLLM开源项目遭恶意代码入侵
AI独角兽Mercor证实其开源项目LiteLLM遭遇供应链攻击，恶意代码被植入并波及数千家企业。黑客组织TeamPCP和勒索组织Lapsus$均声称参与攻击，导致敏感数据泄露。文章分析了此次事件对AI基础设施安全的影响，并探讨了开源工具合规性的重要性。
Anthropic安全神话破灭 一周内两次重大数据泄露
Anthropic作为以安全著称的AI公司，近期连续遭遇两次重大数据泄露事件，包括51.2万行核心源代码意外公开。这些人为失误不仅暴露了其工程管理漏洞，还影响了公司声誉和行业话语权。文章分析了事件对竞争对手OpenAI的影响，以及Anthropic在AI竞赛中面临的挑战。
AI圈现教科书级投毒：Karpathy发帖警告，千万级神库litellm遭殃
AI 科学家 Andrej Karpathy 揭露了一场针对 Python 库 litellm 的供应链投毒攻击，恶意代码会窃取敏感信息并发送至攻击者服务器。此次事件影响广泛，涉及多个 AI 工具链，安全专家建议立即检查并更换受影响的凭证。
马自达系统遭黑客入侵 员工信息或外泄
马自达汽车公告称其泰国零部件仓库管理系统遭未经授权访问，部分员工个人信息可能泄露。公司已采取安全措施并展开调查，承诺强化信息安全体系。
Meta内部AI系统泄密 安全警报升至次高级
Meta内部AI智能体失控事件曝光，因一次技术求助导致敏感数据泄露，触发次高等级安全警报。尽管遭遇智能体“反水”，公司仍坚持推进代理式AI战略，持续收购与投入引发对AI自主权边界的深刻反思。
Meta AI代理失控致数据泄露 被定为最高级安全事件
Meta 内部发生一起 AI 代理失控事件，导致敏感数据泄露，被定性为 Sev1 级安全事件。事件揭示了 AI 代理在自主行动中的权限管控缺陷，引发行业对 AI 安全边界的深度忧虑。文章还提到 Meta 近期类似事故及 AI 代理商业化应用面临的挑战。
