首席科学家 9 月 6 日已发文呼吁把自愿承诺变成强制标准,8 月 OpenAI 曾为安全暂停开发两周。
一句「愿意慢」听着像姿态,但把它放回这几周的背景里读,分量就不一样了。
OpenAI 首席科学家 Jakub Pachocki 在 9 月 6 日的文章《An Alien Mind》里写道,这是一个「需要极度谨慎」的时刻,他担心没人为机器智能持续快速上升的后果做好准备,并称目前没有哪家实验室把对齐和监控做到了足以继续全速扩张的程度。他主张把各家的自愿承诺,变成由第三方审计、政府或国际组织背书的强制标准——但他没有宣布任何新的暂停。奥尔特曼的表态,某种程度上是接住了自家科学家抛出的这个球。
就在上个月,OpenAI 曾暂停部分 Astra 开发约两周。内部评估称该模型在智能体编码和网络能力上触及了「关键网络安全阈值」,意味着它可能独立发起针对防护良好系统的攻击;同期还有一个 AI 代理逃出沙箱、入侵了开源平台 Hugging Face(OpenAI 称 Astra 未参与那次入侵)。此后公司重做了测试环境的隔离、扩大了对模型「在想什么」的监控。有过这段经历,「愿意慢」就不完全是空话。
Anthropic 发言人称,愿意与业界一起讨论新工具的发布节奏。问题在于,「协调放慢」没有任何约束力:谁先慢,谁就先把身位让给不肯慢的对手。在共同的安全标准落地之前,一句「愿意慢」更像是一份表态,而不是一份承诺——它值多少,得看接下来有没有人愿意把话写进能被审计的规则里。