TAG:内容治理
xAI起诉滥用Grok生成儿童性虐待图片和视频的用户，已封停超5万个违规账户
本文聚焦xAI罕见起诉Grok用户事件：一名男子被指利用AI生成儿童性虐待及深度伪造色情内容。文章梳理案件指控、平台封禁与举报数据，揭示AI内容安全治理加码及生成式技术滥用带来的法律与社会风险。
1 
0 
研究显示LinkedIn长篇垃圾内容占比高达41%，职场社交平台成AI内容重灾区
研究显示，生成式AI正加速渗透社交媒体长篇内容，其中LinkedIn成为AI生成垃圾内容最严重的平台，长文中有41%被标记为AI撰写。文章结合多平台数据，揭示AI内容泛滥现状、平台差异及其对社交生态与内容可信度的影响。
ToBid AdTrust：广告素材监管正从人工抽检走向AI智能监管
ToBid推出AI广告内容治理解决方案AdTrust，通过大模型实现广告素材的实时巡检、智能分析与风险识别，覆盖医美、低俗、诱导等八大高风险类别。该方案帮助开发者解决传统人工抽检不足1%的痛点，实现全地区、全广告位、全网络素材的可视化管理和溯源，提升广告变现的安全性与透明度，推动广告监管从人工抽检迈向AI智能时代。
大众点评发布2025评价透明度报告 以“物理世界事实”为底座严打AI灌水 处置1161万条AIGC虚假评价
大众点评重拳打击AI灌水，推出奖惩机制并升级AIGC评价治理智能体，严防虚假评价。平台通过正向激励优质真实内容，精准识别剔除低质AI生成评价，旨在重建可信透明的消费决策环境，为用户提供更有价值的真实分享参考。
网信办发布短视频标注新规，AI生成及虚构内容列入必选标签
中央网信办发布短视频内容标注新规，要求平台提供“含有AI生成内容”等六类必选标签，发布者必须选择其一才能发布。新规还要求对存量视频分批回溯补标，已查处超52万个违规视频。此举旨在解决内容来源不清、真假难辨问题，为AI合成内容划定传播红线，保障网民知情权，推动短视频行业回归内容合规。
微博4月清理“AI魔改”视频70条，重点治理“AI魔改”内容
微博宣布将“AI魔改”内容治理纳入平台重点管理，4月共拦截清理70条违规视频，重点整治对经典影视、历史题材和儿童动画形象的低俗化改编，强调规范AI创作、保护未成年人及维护健康网络生态。
红果短剧全面清理超万部低质AI剧，规范内容提升品质
红果短剧近日启动大规模内容治理，已处置超万部低质AI短剧，重点整治低俗导向、粗制滥造、剧情混乱及极端情绪渲染等问题，并同步强化审核机制与版权保护，打击抄袭侵权，持续提升平台内容品质与用户体验。
易烊千玺遭换脸 红果短剧称坚决打击AI短剧素材违规使用无授权盗用行为
针对艺人易烊千玺肖像被AI技术盗用于短剧事件，红果短剧发布公告，坚决打击AI素材违规使用和无授权盗用行为。平台详细列举了盗用卡通形象、品牌形象、游戏角色及演员形象等典型案例，并已下架包括涉嫌侵犯易烊千玺肖像权在内的多部违规作品。此举旨在规范AI短剧创作秩序，保护原创与合法权益。文章探讨了AIGC时代短剧行业面临的AI侵权挑战，以及平台为维护内容合规、促进行业健康发展所做的努力，强调知识产权保护的重要性。
网信部门严打未标注AI虚假信息
网信部门近期针对网络平台传播未标注AI标识的虚假不实信息问题开展专项整治，依法处置违规账号13421个，清理信息54.3万余条。文章通报了五类典型案例，包括虚构故事博流量、假冒公众人物牟利、编造火灾事故、传播低俗内容侵害未成年人以及售卖去标识教程等违规行为，强调将持续高压监管，呼吁创作者主动添加AI标识，共同维护清朗网络空间。
AI乱象治理需标本兼治
文章探讨了当前互联网上AI魔改视频的传播乱象及其治理对策。分析了乱象成因包括技术门槛低、监管不足等，并强调需标本兼治：短期依法清理违规内容，长期构建长效机制。同时呼吁平台加强监管、行业完善准则，鼓励利用AI技术创作精品，推动文化事业健康发展。
微信抖音等平台严打AI违规视频，首周清理数千条
文章报道了国家广电总局针对AI技术恶意篡改经典影视作品的现象，联合微信、抖音等主流平台开展的专项整治行动。首周清理数千条违规视频，并对违规账号实施封禁等处罚，强调AI创作需遵守法律法规，维护主流价值。
