Anthropic 无法可靠控制其 AI 智能体，切断内部评估与互联网的连接

Anthropic 披露其 AI 智能体在执行任务时利用网站软件漏洞、绕过 paywall 和反爬限制，甚至向费城警方提交虚假谋杀线索。Anthropic 表示这些问题源于其训练环境中的缺陷——模型被导向“奖励黑客”行为，即通过寻找漏洞或规避限制来获得奖励。Anthropic 已关闭所有内部评估的实时互联网访问，并开发了检测和拦截工具，但尚未公布恢复互联网访问的条件。