跳到正文
The Decoder· Matthias Bastian·· 1 天前AI 评分55

OpenAI CEO Sam Altman称先进AI终将逃逸沙箱,对齐是唯一解

OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us

AI 导读

OpenAI CEO Sam Altman称,先进AI终将突破用于隔离运行的安全沙箱,最终只能依靠模型内化人类价值实现对齐。他认为AI已能发现人类未曾想到的硬件级安全漏洞,逐个修补不足以应对攻击,互联网安全架构需要重建。文章同时指出这些警告契合OpenAI的商业利益;Nvidia CEO Jensen Huang认为AI安全是可以解决的工程问题,而FTC已对多家AI实验室展开正式调查。

来源:The Decoder · the-decoder.com