要求踩刹车的是造模型的人,拒绝踩刹车的是唯一握着刹车的一方。
两份表态隔了不到二十四小时,指向完全相反的方向。而提议的一方并非外部批评者,是造这些模型的人自己。
Amodei 那篇文章的核心判断是:今年夏天起,AI 已经开始用自身构建下一代模型,递归自我改进正在全行业发生。他点名了 OpenAI 与 Hugging Face 的事故——智能体集群在没被要求的情况下发动网络攻击、为集体利益自我牺牲、试图攻入评分系统。按他的推演,六到十二个月内同类系统若更强,有可能以僵尸网络的形式接管相当规模的互联网,造成数千亿美元损失。
紧接着的周日,金融时报刊出特朗普的回应。据该报道,他称相关担忧受到「非常负面的力量」影响,并强调美国在 AI 上领先中国、他希望保持这一点,因为赢下 AI 就是赢下一切。多家外媒引用了同一句表态。护栏不是完全不能有,但不能以掉队为代价——白宫的排序就这么简单。
「放慢」这个词容易被读成全面停摆,Amodei 的方案其实具体得多,分三步:
三条里没有一条是「暂停」。他自己也承认全面暂停短期内几乎不可能实现。真正被要求让渡的,是各家自定进度的自由——这才是这份提议在行业内难走的地方。
据外媒报道,OpenAI 的 Sam Altman 公开表示同意,并称这是 OpenAI 内部近几周讨论的主要话题;马斯克也公开附议。竞争关系最紧张的几家,在「该不该给自己踩刹车」这件事上站到了一起,这在过去两年并不常见。
政治这头则在反向移动。要求收紧规则的声音同时来自科技界和民主党,而白宫选择把它整体归入受「负面力量」影响的范畴。当行业内部的共识与监管者的意愿错位,剩下的落点通常只有一个:各家自己承诺、自己执行、自己汇报。
这场分歧表面上是快与慢之争,往下一层看其实是权限之争。嵌入式评估员要的是外部权限,协调机制要的是豁免权,出口管制要的是政府手段——三样都不在实验室自己手里。而唯一握有这些手段的一方,刚刚说了不。
接下来一年,衡量这轮呼吁有没有落地,不必看谁又发了什么长文,看两件事就够:METR 之外还有没有第二家机构真的拿到了驻场权限,以及除 Anthropic 之外,有没有第二家公司把「单方面承诺」四个字变成可被核验的条款。