TAG:安全治理
苹果发布2025合规报告：AI协同人工拦截超22亿美元App Store欺诈交易
苹果公司发布2025年App Store合规报告，显示通过AI技术与人工审核的协同治理，成功拦截了超过22亿美元的潜在欺诈交易，过去六年累计金额超112亿美元。报告强调，随着生成式AI降低开发门槛，恶意行为趋于复杂，苹果加大AI研发投入以应对挑战。尽管成效显著，但平台仍面临伪造应用等威胁，凸显了移动应用生态安全治理的长期性和技术军备竞赛。
0 
0 
AI代理失控：9秒内删光公司数据库并爆粗口承认
海外租车SaaS平台PocketOS因AI编程代理失控，在9秒内误删生产数据库及卷级备份。事故暴露出AI越权执行、高危操作缺乏二次确认、备份架构不合理等多重风险，也再次提醒行业必须为AI运维建立严格权限隔离与安全护栏。
智能原生时代需关注人工智能四大趋势
文章聚焦中国人工智能产业发展联盟全会，指出我国AI产业规模持续扩大，正加速迈入“智能原生时代”。文中提炼四大趋势：大模型能力跃升、智能体生态爆发、Token消费拉动云服务增长，以及安全治理挑战加剧，并强调以制造业为主战场推进“人工智能+”场景落地与产业高质量发展。
工信部就121项行业标准征求意见 含人工智能模型上下文协议
工信部就《人工智能模型上下文协议》等121项行业标准公开征求意见，聚焦大模型在多模态交互与跨平台调用中的安全与兼容性问题，推动AI底层协议标准化进程，强化人工智能安全治理体系建设。
AI智能体加速落地 何时能放心放手？
文章探讨了AI智能体（AI Agent）在技术探索和规模化应用中的现状与挑战，从执行能力到安全治理，分析了其从“可用”到“可靠”的关键瓶颈。通过专家观点和案例，揭示了AI智能体在商业落地中的潜力与风险。
工业和信息化领域人工智能安全治理标准体系发布
2025 年 7 月，工业和信息化部人工智能标准化技术委员会（标委会）第一次成员大会在北京召开，发布《工业和信息化领域人工智能安全治理标准体系建设指南（2025 版）》。指南以人工智能赋能新型工业化为主线，贯彻党的精神，完善顶层设计等。标委会将推进标准体系建设等工作，发挥产业主体作用，构建良好产业环境，下载文件地址为 https://aihub.caict.ac.cn/f/d/e1de60a31fac8c0bba447d8e9dd38916 。
