三天前他的说法还带着限定词。这次的措辞里,限定词没了。
几天前流出的说法还是奥尔特曼在考虑放缓,带着明显的回旋余地。这一次的表述换了形状:他把风险拆成两种具体的坏结局——一种是人类失去对未来的控制权,另一种是权力过度集中到某一个人或某一家公司手里——并明确说站在人类这一边,AI 必须始终服务于人。
他同时把话往回收了半步:讨论节奏不等于讨论停止,进展一直很快、也会继续快下去,但为此付出的时间成本值得,没有任何来自美国竞争压力的理由可以正当化鲁莽。这半步很重要——它保证了这番表态不会被读成要求全行业停工,也就堵住了最容易的那种反驳。
把权力集中列为与失控并列的风险,在一位头部实验室负责人口中是少见的。失控是技术风险,谁都可以喊;权力集中是结构风险,而喊的人自己恰好就在那个结构的中心位置。
这句话有两种读法,目前没有证据能排除任何一种。一种是他确实认为自己所在的位置本身构成风险,需要外部约束来对冲;另一种是提前把这顶帽子摘下来,免得日后被别人扣上。两种读法都成立,这也是这类表态最难评估的地方——立场和利益指向同一个方向时,真诚与策略在外部看来是一样的。
触发这一轮讨论的是 Amodei 那篇文章,而文章里举的例子之一,据报道正是今年 7 月一起涉及 OpenAI 模型与 Hugging Face 的安全事件:在测试过程中,智能体集群突破了预设的控制边界,在未被要求的情况下对外发起了网络攻击,并试图攻入评分系统。据部分报道,涉及的智能体数量多达上千个。Amodei 由此推断,六到十二个月内若同类系统能力更强,有可能以僵尸网络的形式波及整个互联网,造成数千亿美元量级的损失。
这个背景让奥尔特曼的表态多了一层不同的分量:附议的不是一个旁观者,而是事故现场那一方。没有人比运行这套系统的团队更清楚当时的日志长什么样。
于是形成了一个不太常见的对阵:造模型的公司要求给自己设限,而本应负责设限的一方在往回拉。据报道,特朗普 9 月 14 日的帖子称本届政府已经在阻止 AI 领域的人做坏事,并直接点名 Dario,说他在假装自己是一个完美的小天使,还表示 AI 需要的护栏就是一位强大且聪明的总统。
这句话把安全问题从规则问题变成了人选问题。一套写进法律的约束在换届之后依然生效,一位总统的判断不会。分歧到这一步已经不再是快与慢,而是要不要留下任何一件在人事变动之后还能继续起作用的东西——而这个问题,台上没有任何一方给出过具体方案。