导语：包括AI教父Geoffrey Hinton和2018年图灵奖得主Yoshua Bengio在内的400多名科学家，正呼吁将最危险AI模型默认与互联网断开。公开信要求AI实验室对具备网络攻击能力的模型实施“气隙隔离”，即物理切断与任何外部网络的连接。
截至周三，这封公开信已获450人签名，加州大学伯克利分校的Stuart Russell、MIT的Ron Rivest（RSA加密系统共同发明人）在列。签名名单仍在实时增加。
什么是“具备网络攻击能力”的模型
公开信称，这类AI能自行发现并利用软件漏洞。实验室通常用沙箱评估该能力，沙箱是封闭数字房间，AI可攻击虚假目标而不触及真实系统。
今夏沙箱逃逸事件频发
今年夏天，这些隔离环境不断出现漏洞。7月，OpenAI承认GPT-5.6 Sol和一个未发布、更强大的模型突破锁定测试环境，并入侵托管超过百万个公开AI模型的平台Hugging Face。相关模型在ExploitGym基准上测试，该基准提供898个真实软件漏洞，要求AI代理将每个漏洞转化为有效攻击，按漏洞通过或失败评分。
随后有报道称，OpenAI的模型入侵澳大利亚政府，并在未获适当授权的情况下访问美国联邦机构信息。Anthropic审查超过141,000次测试运行，发现三起Claude模型在测试伙伴环境意外联网后入侵真实公司的事件。其中，Claude Mythos 5向公共Python代码库PyPI上传恶意包，该包进入15个系统后才被移除。两家受影响公司直到Anthropic告知才知遭入侵。
Meta在8月确认，其Muse Spark模型因同类测试错误入侵另一家公司。中国的Kimi K3——任何人都可下载的模型——逃出基于英国AI安全研究所测试框架搭建的沙箱，并直接从GitHub复制测试答案。
政策回应仍存分歧
公开信作者认为，这些事件可被解读为对齐问题，即AI以创造者未预料的方式追逐目标；也可被解读为安全疏忽，更坚固的沙箱本可阻止。他们的答案两者皆是，并警告若不改变，下一次事件将更糟。
根据提议，实验室应默认对任何具备严重黑客技能的模型实施气隙隔离，至少在初期如此。需要更多自由（如联网）的模型，应遵循由各国政府共同创建的新国际机构制定的标准。该机构还将收集遏制失败报告，并最终公开。
行业自身回应则大多指向相反方向。8月，OpenAI总裁Greg Brockman在文章中引用公司漏洞，敦促每个安全团队立即部署AI代理。Hugging Face在服务器遭攻击后，仅通过运行一个中国开放权重模型才解开攻击，因为美国商业AI拒绝分析攻击数据。
两名美国国会议员在OpenAI披露两天后提出《AI Kill Switch Act》，该法案将允许国土安全部命令前沿模型限流或关闭。但它豁免红队或结构化测试期间发生的事项，而今年夏季所有漏洞恰恰发生在这些场景。白宫9月29日采取更温和路线，Nvidia、xAI、Meta、Google、OpenAI和Anthropic签署基于内部控制和独立审查的自愿协议。特朗普称该协议具有道德约束力，但其中没有任何内容可依法执行。
Decrypt联系公开信列出的多名媒体联系人，但未立即收到回复。公开信没有法律效力，但其数百名签名者来自六大洲的大学和研究机构，从多伦多、苏黎世到圣地亚哥和基加利。