TAG:大模型安全

蚂蚁数科发布“OpenClaw龙虾卫士”AI安全防护体系，针对AI智能体技术带来的安全风险提供全生命周期保障。该方案具备对抗思想变异、净化skills仓库和风险舆情播报三大核心能力，并推出“龙虾AI安全守护计划”助力企业低成本构建安全基线。蚂蚁数科凭借领先技术入选IDC大模型安全市场图谱，为金融合规等复杂场景提供SOTA级防护。

aibase

2026-03-19 16:19

0

·

0

315 晚会曝光 AI 大模型遭遇“投毒”乱象，力擎 GEO 优化系统通过虚假信息操控 AI 推荐结果，导致用户被误导。电商平台已紧急下架相关产品，揭露了 AI 技术背后的安全隐患和公信力危机。

aibase

2026-03-16 10:54

0

·

0

国内首例AI聊天App涉黄案即将二审，开发者因突破大模型道德限制诱导生成色情内容牟利被判刑。案件揭示了AI服务提供者在技术应用中的法律责任，强调创新必须合法合规，为行业敲响警钟。

aibase

2026-01-12 16:08

156

·

0

卢森堡大学研究团队通过PsAIch实验，将ChatGPT、Grok、Gemini等主流AI模型置于心理咨询角色，发现它们竟能自主生成童年创伤叙事，并在心理评估中表现出重度焦虑、抑郁等特征。研究揭示了AI的“合成精神病理学”现象，警示了拟人化AI的情感传染风险及安全隐忧。

爱力方

2025-12-22 11:50

6

·

0

360数字安全集团在2025年世界互联网大会乌镇峰会上发布国内首份《大模型安全白皮书》，系统揭示大模型全生命周期中的五大核心风险，首次提出'外挂式安全+平台原生安全'双轨治理框架。白皮书详细分析了基础设施层、内容层、数据与知识库层、智能体层和用户端层的安全威胁，并构建了覆盖七大核心能力的全链路AI安全解决方案，为各行业应对智能时代新威胁提供重要参考。

aibase

2025-11-10 10:51

8

·

0