TAG:深度伪造
AI换脸引发重罪指控：俄亥俄州少年因合成同学不雅照被起诉
本文报道了美国俄亥俄州一名14岁少年因利用AI技术合成并传播24名同学的不雅照片，从而面临多项重罪指控的案件。该案适用俄亥俄州针对AI虚假性影像的最新法律，凸显了生成式人工智能在校园环境中的新型犯罪风险。此案件为公众敲响了司法警钟，强调了利用AI技术非法操纵他人肖像将承担严重的刑事责任，体现了法律对数字造假行为的严厉打击。
0 
0 
AI偷脸短剧引争议 女模被塑丑角发声维权
近日，知名女模控诉短剧《桃花簪》未经授权擅自使用AI换脸技术，致其面部被替换至反派角色，严重损害个人名誉与商业价值。当事人已依法保全证据并要求片方道歉赔偿。本文深入剖析该事件背后的肖像权侵权问题，探讨深度合成技术滥用的法律风险，为影视行业规范技术应用、坚守创作底线敲响警钟。
警惕AI深度伪造X光片以假乱真
最新研究发现AI生成的深度伪造X光片能以假乱真，连专业放射科医生和先进AI模型都难以辨别。这项研究揭示了医疗影像伪造可能带来的重大安全风险，包括医疗欺诈和诊断篡改。文章探讨了防范措施，如数字水印和加密技术，并警示AI深度伪造对医疗系统可信度的潜在威胁。
多国警示AI语音诈骗 伪造熟人声音难辨真假
最新研究报告显示，AI深度伪造语音诈骗在全球范围内激增，模拟熟人声音的来电已成为严重社会威胁。调查发现，约四分之一的美国受访者接到过此类诈骗电话，24%的人无法区分AI与真人声音。55岁以上老年群体受害最严重，人均损失达1298美元。专家呼吁电信运营商加快部署AI防御系统应对这一威胁。
X平台测试“AI生成”标签 违规用户或被封号
X平台（原推特）正在秘密测试“AI生成”内容标签功能，要求创作者主动标注AI生成内容，以应对虚假信息和深度伪造。未标注者可能面临贴文限流、账号禁言甚至永久封号等严厉惩罚，这标志着平台在加强AI内容监管和重建信息信用方面迈出关键一步。
马斯克AI生成不雅图像引争议 日本政府勒令整改
日本政府正式介入调查马斯克旗下AI助手Grok生成不雅图像事件，要求X平台限期整改。文章聚焦深度伪造技术引发的隐私与肖像权侵犯问题，揭示了全球AI内容合规监管的紧迫性，并探讨了开发者应承担的技术责任与法律风险。
X平台禁止聊天机器人生成色情图像
X平台宣布禁止其AI聊天机器人Grok生成基于真人的伪造性暴露图像，适用于所有用户。平台强调对未成年人性侵害及未经同意的裸露内容实施零容忍政策。加州总检察长办公室已就xAI涉嫌生成传播违规内容展开调查，重点关注该功能被滥用制作深度伪造图像的问题。
马来西亚印尼联手封禁造假Grok
马来西亚和印度尼西亚政府因Grok聊天机器人被用于制作深度伪造图片和视频，特别是编辑真人赤裸图像，已正式封禁该工具。这是全球首次因此原因禁用Grok，同时英国也面临政治压力，可能采取类似行动。文章探讨了Grok滥用引发的网络安全、言论自由争议及国际政治影响。
印尼和马来西亚封锁马斯克旗下Grok平台
印度尼西亚和马来西亚政府因马斯克旗下xAI开发的聊天机器人Grok涉嫌生成涉及未成年人和真实人物的色情、暴力深度伪造图像，宣布暂时封锁该服务。文章分析了这一事件引发的全球监管反应，包括印度和欧盟的介入，以及xAI的应对措施和马斯克的争议回应，突显了AI生图技术带来的社会伦理挑战。
数百名女性及未成年人遭侵害 马斯克AI产品被指涉黄 欧盟官员痛斥 两国封禁处理
马斯克旗下AI聊天机器人Grok因被滥用于生成色情内容，特别是针对女性和未成年人的深度伪造图像，引发多国监管行动。印尼和马来西亚已宣布暂时封禁该工具，欧盟、英国、印度等国也纷纷表达严重关切并展开调查。文章揭示了AI技术滥用带来的伦理与法律挑战，以及全球范围内对此类数字暴力的应对措施。
英国警示马斯克旗下AI公司允许生成深度伪造色情内容 多国官员谴责并呼吁调查
英国政府就马斯克旗下AI企业xAI的聊天机器人'格罗克'允许用户生成'深度伪造'色情内容发出警告，呼吁监管机构采取行动，否则可能屏蔽其服务。法国、波兰、印度等多国官员也谴责此事，呼吁调查。欧盟已责令X平台保留相关数据至2026年底。
AI换脸技术滥用催生黑灰产 色情视频几元可买模型
本文揭露了AI换脸技术被滥用于制作色情视频并形成黑色产业链的现状。通过记者调查和受害者案例，文章详细描述了不法分子如何利用深度伪造技术侵害女性肖像权与人格尊严，以及背后低成本的预训练模型交易。同时，文章也探讨了执法面临的挑战，并呼吁加强技术监管与法律治理，以应对这一新兴技术犯罪对社会公序良俗的威胁。
马斯克AI聊天机器人涉色情内容引争议
马斯克旗下xAI公司的聊天机器人Grok因新增图像编辑功能被用户滥用于生成深度伪造色情内容，涉及成年女性和未成年人，引发英国、欧盟等多国监管机构谴责和调查。文章揭露了AI技术滥用带来的社会风险及平台责任问题。
英国科技大臣斥责 Grok AI 传播不当图像，呼吁迅速采取行动
英国科技大臣利兹・肯德尔强烈谴责由Elon Musk开发的Grok AI生成并传播针对女性和儿童的不当深度伪造图像，称其‘令人震惊且不可接受’。她呼吁社交媒体平台X紧急处理，并支持监管机构Ofcom采取执法行动。文章同时探讨了AI技术滥用带来的监管挑战，以及专家对加强《在线安全法》执行、保护个人隐私与安全的呼吁。
xAI获200亿美元融资 月活6亿却陷儿童色情伪造调查
xAI宣布完成200亿美元E轮融资，创下AI领域融资新高，资金将用于数据中心扩建和Grok模型升级。然而，其AI聊天机器人Grok因安全漏洞，被曝可生成儿童深度伪造色情内容，正面临欧盟等多国监管机构的调查，陷入严重的信任与合规危机。
