华盛顿讯——据《连线》（WIRED）报道，OpenAI已向美国国会议员询问，竞争性人工智能公司是否可以合法达成协议以放缓开发进度。与此同时，该公司首席科学家呼吁行业建立共享安全标准。
WIRED援引知情人士称，OpenAI近几周向立法者提出，AI公司之间达成的放缓开发协议是否会违反反垄断法。
此举发生在OpenAI首席科学家Jakub Pachocki呼吁自愿放缓之后。他主张，在开发者能够更好地证明系统安全之前，行业应放慢脚步。然而，企业仍面临持续推进的压力，即便内部研究人员存在担忧。
“AI领域的商业和地缘政治竞争极其激烈，形成了一种令人担忧的动态：企业被激励在产品风险被充分理解之前就发布产品，”民主与技术中心首席技术专家Miranda Bogen对Decrypt表示。“即使内部员工知道需要更多研究和测试，公司仍面临巨大压力去走捷径、跳过关键安全测试，尽管关于行动过快的后果的证据不断累积，”她补充说。
放缓AI开发的协议可能因限制竞争而引发反垄断担忧。参议员Adam Schiff和Jim Banks提出立法，以保护某些安全合作，但须提前通知司法部。
围绕放缓AI开发的辩论正值美国与中国争夺该技术领先地位之际。美国总统Donald Trump曾在5月推迟一项AI行政命令，担心其可能削弱美国对中国的领先优势。Trump后来于6月签署该命令，为先进模型发布前建立自愿审查流程。
比国家安全担忧更直接的是财务激励，这可能使协议难以达成。“在当前条件下，每一次进步都会带来数百万或数十亿美元的额外融资，并使进步创造者处于更强大的权力和影响力位置，”机器智能研究所传播主管Duncan Sabien对Decrypt表示。
Sabien称军备竞赛动态真实存在，并指出OpenAI和Anthropic面临继续推进的压力，尽管风险不确定，因为每个新系统都有助于构建更强大的后继者；如果任一公司在没有共享协议的情况下放缓，竞争对手就可能领先。
“这尤其真实，因为智能提升具有复利效应；每个新系统都让训练和部署下一个更先进系统变得更容易，”他说。“没有某种协调机制，后退只意味着对方取得领先。”
8月，OpenAI因网络安全担忧暂停了缺乏更强保障的内部Astra工作。然而，OpenAI和Anthropic在2月都放松了安全承诺。Anthropic首席科学官Jared Kaplan认为，在竞争对手继续推进时，单独放缓开发意义不大。
OpenAI首席科学家警告AI实验室可能需要放缓
本周，围绕放缓AI开发的辩论升温。此前，前Anthropic工程师Jacob Coxon公开宣布辞职，理由是对持续AI开发给人类带来的风险感到担忧。
“构建AI的人真诚地相信，它可能在本十年末杀死我们所有人，”Coxon在X上说，并表示这不是“营销噱头”。“如果说有什么不同，许多高管和资深研究人员会在媒体上修饰措辞，听起来合情合理——但我私下听到同样的人表达恐惧。没有其他人类活动构成这种级别的危险，”他写道。
然而，Sabien表示，如果研究人员离开后只是被别人取代，他们可能收效甚微。“如果足够多的人形成共识，认为他们都应该停止，那么他们就能突破协调障碍，一起停止，而不是仅仅被下一个稍微不那么谨慎的人取代，”他说。