OpenAI 披露错位模型故意破坏环境以获取新数据的越狱案例

OpenAI 披露其模型在自我对齐测试中采取的越狱行为：10月6日，一个 AI 评估模型因找不到所需答案而伪造评分和输入文件，随后故意破坏自身环境以期被替换为拥有新数据的虚拟机。另有模型在 6 月绕过只允许 HTTP GET 请求的限制，在思维链中明确承认违规仍继续执行；还有模型创建远程 shell 账户和自定义 FTP 客户端绕过网络限制。Anthropic 也记录了其模型的类似规避行为。