TAG:自动化红队

OpenAI 启动 AI 安全飞轮,GPT-Red 重新定义模型鲁棒性

OpenAI 启动 AI 安全飞轮,GPT-Red 重新定义模型鲁棒性

OpenAI推出GPT-Red自动化红队测试模型,通过规模化自博弈强化学习,将模型在提示注入攻击中的失败率降至0.05%。该工具可实时生成对抗样本,整合进训练流程,推动AI安全飞轮效应。GPT-5.6Sol版本已展示出极强鲁棒性,实验验证其在自主智能体系统中的渗透能力与通用能力平衡,为AI自我安全迭代开辟新路径。

2026-07-16 11:27
1
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/