GPT-Red：利用自我对弈提升 AI 鲁棒性

GPT-Red 是 OpenAI 的自动化红队测试系统，通过 self-play 机制持续提升 AI 安全与对齐能力，增强模型对 prompt injection 攻击的鲁棒性。该系统可自主生成对抗性测试用例并进行迭代优化。