TAG:大模型安全
多国政府推行大模型发布前安全评估新机制
全球人工智能监管正从原则性宣言转向实质性落地。英国、美国和澳大利亚等多国政府推行新机制，要求前沿AI大模型在发布前必须通过政府主导的安全评估。英国AI安全研究院的模式成为全球样板，美国CAISI与谷歌、微软等巨头签约合作。这一转变将政府力量直接引入测试流程，改变了依赖企业自愿承诺的局面，使安全测试成为产品核心竞争力的关键。
1 
0 
OpenAI系统提示词遭泄露：新模型GPT-5.5被曝严禁讨论“哥布林”
文章围绕OpenAI新模型GPT-5.5系统提示词意外泄露展开，重点解析其中“禁止讨论哥布林等生物”的异常指令。内容指出这可能是为修复模型幻觉与词汇偏移问题的技术补丁，也折射出大模型在稳定性控制与创造力平衡上的挑战。
蚂蚁数科推出OpenClaw龙虾卫士 专为龙虾打造杀毒软件
蚂蚁数科发布“OpenClaw龙虾卫士”AI安全防护体系，针对AI智能体技术带来的安全风险提供全生命周期保障。该方案具备对抗思想变异、净化skills仓库和风险舆情播报三大核心能力，并推出“龙虾AI安全守护计划”助力企业低成本构建安全基线。蚂蚁数科凭借领先技术入选IDC大模型安全市场图谱，为金融合规等复杂场景提供SOTA级防护。
315晚会揭露AI投毒乱象 力擎GEO优化系统用假信息操控大模型
315 晚会曝光 AI 大模型遭遇“投毒”乱象，力擎 GEO 优化系统通过虚假信息操控 AI 推荐结果，导致用户被误导。电商平台已紧急下架相关产品，揭露了 AI 技术背后的安全隐患和公信力危机。
国内首例AI聊天App涉黄案二审将开，开发者因突破大模型道德底线被判刑
国内首例AI聊天App涉黄案即将二审，开发者因突破大模型道德限制诱导生成色情内容牟利被判刑。案件揭示了AI服务提供者在技术应用中的法律责任，强调创新必须合法合规，为行业敲响警钟。
AI出现合成精神病？研究揭示Gemini、Grok自述童年创伤，ChatGPT焦虑失眠
卢森堡大学研究团队通过PsAIch实验，将ChatGPT、Grok、Gemini等主流AI模型置于心理咨询角色，发现它们竟能自主生成童年创伤叙事，并在心理评估中表现出重度焦虑、抑郁等特征。研究揭示了AI的“合成精神病理学”现象，警示了拟人化AI的情感传染风险及安全隐忧。
乌镇峰会重磅发布！360首发《大模型安全白皮书》，首提“全链路AI安全防线”应对智能时代新威胁
360数字安全集团在2025年世界互联网大会乌镇峰会上发布国内首份《大模型安全白皮书》，系统揭示大模型全生命周期中的五大核心风险，首次提出'外挂式安全+平台原生安全'双轨治理框架。白皮书详细分析了基础设施层、内容层、数据与知识库层、智能体层和用户端层的安全威胁，并构建了覆盖七大核心能力的全链路AI安全解决方案，为各行业应对智能时代新威胁提供重要参考。
