TAG:虚假信息
谷歌搜索 AI 概览准确率仅 90%，易受虚假信息影响
谷歌AI概览虽号称90%准确率，但评估显示其每小时可能产生数千万条错误答案，且极易受虚假信息操纵。文章揭示了AI概览内容与来源不符、自相矛盾等问题，引发用户对AI搜索结果可靠性的严重质疑。
0 
0 
315曝光GEO洗脑 AI大模型投毒问题加剧
央视3・15晚会揭露GEO技术被滥用问题，部分服务商通过批量制造虚假信息操控AI大模型推荐结果，虚构产品成为AI推荐“优品”。文章深入探讨GEO技术的商业应用、行业乱象及对AI可信度的影响，并分析产业链发展和未来挑战。
315晚会揭露AI投毒乱象 力擎GEO优化系统用假信息操控大模型
315 晚会曝光 AI 大模型遭遇“投毒”乱象，力擎 GEO 优化系统通过虚假信息操控 AI 推荐结果，导致用户被误导。电商平台已紧急下架相关产品，揭露了 AI 技术背后的安全隐患和公信力危机。
央视曝光AI大模型投毒乱象 虚构产品成推荐首选
央视315曝光AI大模型被‘投毒’乱象，揭露GEO技术被滥用于操控AI推荐结果。虚构产品通过大量虚假软文成为AI推荐首选，暴露了数据污染对AI中立性的威胁。
AI伪造战争视频网络泛滥引担忧
文章揭露了人工智能生成的虚假战争视频在网络上的泛滥现象，这些视频被用来博取关注和牟利，严重损害了公众对网络信息的信任。专家警告称，AI工具的普及使得制作以假乱真的视频变得轻而易举，而社交媒体平台的审核机制难以应对这一挑战。
小红书严管AI假脸 强制标注合成内容违规扣流量
小红书发布新规，要求创作者对AI生成及合成内容进行显著标识，以应对AI技术滥用乱象。平台将通过强制标识、算法检测和严厉打击违规行为等措施，维护社区内容的真实性与信任基础，违规内容将面临限流或封禁处罚。
网信部门重拳整治虚假信息 处置账号超1.3万清理信息54万条
近期网信部门针对网络平台传播未标注AI标识的虚假不实信息展开专项整治，依法处置账号13421个，清理违法违规信息54.3万余条。通报了五类典型案例，包括虚构故事博取流量、AI换脸假冒公众人物、编造虚假火灾事故、制作低俗动画内容以及售卖去AI标识教程等行为。网信部门将持续保持高压严管态势，呼吁创作者主动添加AI标识，共同维护清朗网络空间。
网信部门严打未标注AI虚假信息
网信部门近期针对网络平台传播未标注AI标识的虚假不实信息问题开展专项整治，依法处置违规账号13421个，清理信息54.3万余条。文章通报了五类典型案例，包括虚构故事博流量、假冒公众人物牟利、编造火灾事故、传播低俗内容侵害未成年人以及售卖去标识教程等违规行为，强调将持续高压监管，呼吁创作者主动添加AI标识，共同维护清朗网络空间。
圣路易斯猴子出逃引全城搜索 AI合成图成干扰源
美国圣路易斯市猴子出逃事件引发全城搜索，但社交媒体上泛滥的AI合成虚假图片严重干扰了官方搜寻工作。这些误导性内容不仅消耗公共资源，还凸显了合成媒体技术对现实公共管理秩序的侵蚀，引发对AI虚假信息的信任危机。
虚假反工党视频在YouTube播放量破12亿
2025年，超过150个匿名YouTube频道利用廉价AI工具传播虚假反工党视频，累计观看次数达12亿次，主要针对英国首相基尔・斯塔默，引发公众信任危机。研究揭示这些频道从政治分歧中获利，并存在全球合成宣传趋势。YouTube已删除相关频道，但工党和研究机构呼吁平台加强内容审核以应对虚假信息威胁。
AI正在被“投毒”：当黑帽SEO攻陷大模型，我们的信任根基何在？
网络安全团队'知危'的实验揭示了AI大模型正面临'黑帽SEO'攻击，攻击者通过伪造自媒体内容污染AI知识库，导致模型将虚假信息作为"事实"输出。文章分析了AI依赖'低质量摘要'和缺乏事实核查能力的两大缺陷，警示在AI成为主要信息入口的时代，公众需保持批判性思维，通过多信源验证来抵御认知污染风险。
