OpenAI 发布 GPT-Red 自动化红队系统
OpenAI 推出内部自动化红队 GPT-Red，通过自博弈强化学习大规模发现提示注入漏洞；内部评测成功率 84%（人类红队 13%），用于部署前加固模型安全。
查看原文解读生成中或暂时不可用，请稍后刷新重试，或直接查看原文。
OpenAI 推出内部自动化红队 GPT-Red，通过自博弈强化学习大规模发现提示注入漏洞；内部评测成功率 84%（人类红队 13%），用于部署前加固模型安全。
查看原文