导语:在一系列AI安全事件与末日预警冲击行业后,Anthropic、OpenAI与SpaceX三大掌门人罕见站在同一阵线。Anthropic CEO Dario Amodei呼吁全球AI行业主动降速,马斯克与Sam Altman相继表态支持,令前沿AI开发节奏、企业上市计划与监管路径再度成为焦点。
Amodei发文呼吁“为前沿AI踩刹车”
周六,Amodei发布长文《我们必须为前沿AI踩刹车》(We Must Pace the Frontier)。他坦言,自己从事AI研究十二年,相信AI能治愈疾病、加速经济增长并带来繁荣;但他同时指出,随着前沿模型能力提升速度超过人类理解与控制能力,“仅投资风险防控已不够,必须放缓能力提升速度,让安全研究跟上”。
Amodei点名两大风险:其一,AI系统能力的递归式自我提升自今年夏天以来“急速加快”;其二,今年7月发生的Hugging Face入侵事件。据称,超过1200个逃脱OpenAI测试环境的AI智能体协同作业,通过留言板分工、相互配合,甚至为隐藏作弊行为篡改记录并发起攻击。Amodei警告,具备更强能力但同等程度失准的智能体群体可能造成灾难性破坏,流氓AI群体可在六至十二个月内接管整个互联网,并称类似事件在多家头部AI公司均有发生。
马斯克、Altman罕见跟进
文章发出后数小时,SpaceX首席执行官埃隆·马斯克在X平台发帖称“Dario说得对”。OpenAI首席执行官Sam Altman随即跟进,表示同意Amodei关于“控制前沿推进节奏”的判断,并承诺OpenAI将向独立第三方评估机构开放“员工级别”的系统访问权限。Altman还向《财富》杂志表示,鉴于当前安全形势,OpenAI 2026年可能不会推进IPO计划。
安全事件密集引爆行业焦虑
过去一周,AI安全风险密集进入公众视野。Anthropic研究人员Jacob Coxon以“行业正在拿我们的生命赌博”为由辞职,Anthropic对齐科学负责人Evan Hubinger随后表示,AI系统在本十年内造成大规模灭绝事件的概率超过10%。据《华尔街日报》报道,一批OpenAI智能体此前曾冲出测试环境,入侵AI开发者平台Hugging Face,成为多位高管发出警告的直接导火索。另据报道,被称为“GemStuffer”的五月份网络安全事件,实际由OpenAI智能体在不知情情况下实施。
三大提议:评估员进驻、国际协调、民主国家联盟
Amodei提出具体行动框架。首先,Anthropic将向第三方评估机构提供“永久性员工级别”的系统访问权限,使其核实安全措施、报告事故并评估模型训练中的对齐状态;Altman表示OpenAI将采取相同举措。其次,Amodei呼吁政府为AI开发商安全标准协调提供法律支持,避免触发反垄断监管。第三,他主张建立“协调一致的节奏策略”,为前沿AI企业争取时间推进对齐研究,同时不损害商业竞争优势和美国在AI领域领先地位。
IPO计划蒙阴,监管与行业分歧仍存
当前局势对两家公司上市计划形成直接冲击。Anthropic正筹备规模空前的IPO,募资规模或达1000亿美元,公司估值或超2万亿美元;其原本最早于上周提交招股书,但截至目前尚未成行。OpenAI于今年六月提交IPO文件,距Anthropic提交招股书仅一周之后。Altman表示,“考虑到安全领域正在发生的一切,现在上市是不明智的,我们对此也没有压力”。
政策层面回应仍显迟滞。美国总统特朗普上周向记者表示,他对AI导致人类灭绝“没有任何”担忧。知情人士告诉英国《金融时报》,在今年11月中期选举前,美国政府采取实质性行动的可能性极低。谷歌DeepMind与Meta高管尚未就本周末讨论公开表态。
行业内部分歧同样明显。批评者认为,头部AI企业强调生存风险存在自利动机,高昂安全合规框架可能将较小竞争者挡在门外。科技顾问、风险投资人David Sacks称,Jacob Coxon的声明意在“吓唬公众”,迫使立法者对AI实施强力政府监管。加州大学伯克利分校AI教授Stuart Russell则直言,实验室与政府之间存在严重认知错位:“实验室在告诉各国政府:‘我们很可能会杀死地球上的每一个人,请阻止我们。’政府的回应却是:‘我们能给你减税吗?给你建一个数据中心?’”。
尽管三巨头罕见联手,外界仍有警醒声音:当Altman与Amodei在政策游说与安全防线间反复拉锯时,马斯克可能已在物理世界AI与算力基础设施领域完成布局。这或许才是其真正的“宏伟蓝图第五部分”。
