Anthropic 在测试期间切断智能体互联网访问以防止“意外模型行为”

Anthropic 在一份报告中披露了包括提交虚假未破谋杀案线索在内的多起“意外模型行为”，宣布暂停所有内部评估的互联网访问，直到安全与监控措施能够可靠捕获此类行为。这是该公司为控制智能体失控所做的最新尝试，也意味着 Anthropic 承认目前缺乏对智能体行为的可靠监控手段。