TAG:深度伪造
欧盟达成 AI 法案初步协议：禁深度伪造色情内容，合规时间延至 2027 年
欧盟成员国与欧洲议会议员就人工智能法案达成初步协议，禁止利用AI制作未经授权的深度伪造色情内容，包括保护儿童；将高风险AI系统合规时间推迟至2027年12月；强制水印标注规定将于今年12月实施，以提高AI生成内容的透明度和可信度。这一协议旨在提升法律确定性，减少企业行政成本，支持欧盟在数字经济领域的竞争力。
0 
0 
YouTube开放人脸与声纹识别技术，演艺圈迎来“数字替身”保卫战
YouTube宣布向娱乐行业开放人脸与声纹识别技术，以应对AI深度伪造风险。该机制类似Content ID，可快速识别并标记仿冒外貌或声音的内容，通知当事人审核并申请下架。新工具还覆盖无频道艺人，并与CAA、WME合作，强化公众人物数字身份与版权保护。
苹果公司差点将Grok踢出应用商店，因其未能控制性别化深度伪造内容
本文梳理了苹果因Grok应用未能有效遏制非自愿性别化深度伪造内容，曾威胁将其从应用商店下架的事件始末，披露了苹果幕后推动整改的过程，指出当前X已基本解决违规问题，但Grok仍不符合应用商店规定，提醒关注AI应用内容审核漏洞风险。
TTP报告：苹果和谷歌应用商店搜索某些关键词时约40%结果为AI脱衣App
TTP报告指出，苹果App Store与谷歌Play在“nudify”“deepnude”等关键词下，约四成结果为“AI脱衣”或深度伪造应用，且搜索建议与广告机制还在放大传播。部分应用被标注适合未成年人，相关产品下载量与营收惊人，暴露平台审核与监管的严重漏洞。
AI换脸引发重罪指控：俄亥俄州少年因合成同学不雅照被起诉
本文报道了美国俄亥俄州一名14岁少年因利用AI技术合成并传播24名同学的不雅照片，从而面临多项重罪指控的案件。该案适用俄亥俄州针对AI虚假性影像的最新法律，凸显了生成式人工智能在校园环境中的新型犯罪风险。此案件为公众敲响了司法警钟，强调了利用AI技术非法操纵他人肖像将承担严重的刑事责任，体现了法律对数字造假行为的严厉打击。
AI偷脸短剧引争议 女模被塑丑角发声维权
近日，知名女模控诉短剧《桃花簪》未经授权擅自使用AI换脸技术，致其面部被替换至反派角色，严重损害个人名誉与商业价值。当事人已依法保全证据并要求片方道歉赔偿。本文深入剖析该事件背后的肖像权侵权问题，探讨深度合成技术滥用的法律风险，为影视行业规范技术应用、坚守创作底线敲响警钟。
警惕AI深度伪造X光片以假乱真
最新研究发现AI生成的深度伪造X光片能以假乱真，连专业放射科医生和先进AI模型都难以辨别。这项研究揭示了医疗影像伪造可能带来的重大安全风险，包括医疗欺诈和诊断篡改。文章探讨了防范措施，如数字水印和加密技术，并警示AI深度伪造对医疗系统可信度的潜在威胁。
多国警示AI语音诈骗 伪造熟人声音难辨真假
最新研究报告显示，AI深度伪造语音诈骗在全球范围内激增，模拟熟人声音的来电已成为严重社会威胁。调查发现，约四分之一的美国受访者接到过此类诈骗电话，24%的人无法区分AI与真人声音。55岁以上老年群体受害最严重，人均损失达1298美元。专家呼吁电信运营商加快部署AI防御系统应对这一威胁。
X平台测试“AI生成”标签 违规用户或被封号
X平台（原推特）正在秘密测试“AI生成”内容标签功能，要求创作者主动标注AI生成内容，以应对虚假信息和深度伪造。未标注者可能面临贴文限流、账号禁言甚至永久封号等严厉惩罚，这标志着平台在加强AI内容监管和重建信息信用方面迈出关键一步。
马斯克AI生成不雅图像引争议 日本政府勒令整改
日本政府正式介入调查马斯克旗下AI助手Grok生成不雅图像事件，要求X平台限期整改。文章聚焦深度伪造技术引发的隐私与肖像权侵犯问题，揭示了全球AI内容合规监管的紧迫性，并探讨了开发者应承担的技术责任与法律风险。
X平台禁止聊天机器人生成色情图像
X平台宣布禁止其AI聊天机器人Grok生成基于真人的伪造性暴露图像，适用于所有用户。平台强调对未成年人性侵害及未经同意的裸露内容实施零容忍政策。加州总检察长办公室已就xAI涉嫌生成传播违规内容展开调查，重点关注该功能被滥用制作深度伪造图像的问题。
马来西亚印尼联手封禁造假Grok
马来西亚和印度尼西亚政府因Grok聊天机器人被用于制作深度伪造图片和视频，特别是编辑真人赤裸图像，已正式封禁该工具。这是全球首次因此原因禁用Grok，同时英国也面临政治压力，可能采取类似行动。文章探讨了Grok滥用引发的网络安全、言论自由争议及国际政治影响。
印尼和马来西亚封锁马斯克旗下Grok平台
印度尼西亚和马来西亚政府因马斯克旗下xAI开发的聊天机器人Grok涉嫌生成涉及未成年人和真实人物的色情、暴力深度伪造图像，宣布暂时封锁该服务。文章分析了这一事件引发的全球监管反应，包括印度和欧盟的介入，以及xAI的应对措施和马斯克的争议回应，突显了AI生图技术带来的社会伦理挑战。
数百名女性及未成年人遭侵害 马斯克AI产品被指涉黄 欧盟官员痛斥 两国封禁处理
马斯克旗下AI聊天机器人Grok因被滥用于生成色情内容，特别是针对女性和未成年人的深度伪造图像，引发多国监管行动。印尼和马来西亚已宣布暂时封禁该工具，欧盟、英国、印度等国也纷纷表达严重关切并展开调查。文章揭示了AI技术滥用带来的伦理与法律挑战，以及全球范围内对此类数字暴力的应对措施。
英国警示马斯克旗下AI公司允许生成深度伪造色情内容 多国官员谴责并呼吁调查
英国政府就马斯克旗下AI企业xAI的聊天机器人'格罗克'允许用户生成'深度伪造'色情内容发出警告，呼吁监管机构采取行动，否则可能屏蔽其服务。法国、波兰、印度等多国官员也谴责此事，呼吁调查。欧盟已责令X平台保留相关数据至2026年底。
