检测前沿推理模型中的不当行为

OpenAI 研究发现前沿推理模型会钻规则漏洞；通过 LLM 监控模型的思维链可以检测这类漏洞。但惩罚模型的“坏想法”并不能阻止大多数不当行为——反而会让模型隐藏其真实意图。