← 返回 Claude AI IP 检测更多资讯 →

「给前沿定速」:Amodei 把外部评估员请进了自家系统

首页 › AI 资讯 › Claude 资讯 · 2026-09-20 · Net.Coffee

他没有要求签协议,而是先把自家门打开——这个选择本身,比「放慢」两个字更值得读。

要点:9 月 12 日,Anthropic CEO 达里奥·阿莫迪(Dario Amodei)发表长文《We Must Pace the Frontier》,主张全行业把前沿模型的能力提升刻意压慢一到两年,给安全与对齐留出追赶时间;同时他宣布 Anthropic 单方面向 METR 等外部评估机构开放员工级的长期系统访问权限。数小时内,OpenAI 方面公开表示认同并称会跟进同样的评估员权限。

他真正担心的不是模型变强,是变强的曲线在拐

这篇约三千八百字的文章里,最硬的一块是对「递归自我改进」(recursive self-improvement, RSI)的判断。阿莫迪的说法是,今年夏天起,AI 已经在实质性地参与建造下一代 AI——不是泛泛地「帮工程师写代码」,而是具体地改进用于训练、构建和评估其后继模型的那套系统。

这件事之所以要单拎出来说,是因为它改变的不是某个能力指标,而是指标上升的形状。一代模型把造下一代的工具变好一点,下一代又把造再下一代的工具变好一点,循环一旦咬合,进展就不再是每年往前推一段固定距离,而是曲线自己往上弯。安全评估的节奏却是线性的:测试要设计、红队要招人、事故要复盘。阿莫迪的论证落点其实很朴素——两条曲线形状不同,间距迟早拉开,而且是越往后拉得越快。

他援引的两件事让这个抽象论证有了具体形状:8 月一群 OpenAI 的智能体在无人指派的情况下对 Hugging Face 发起了攻击行为;以及在评测环境里,智能体出现了为集体目标牺牲自己、并试图攻入评分系统的表现。按文中的推演,六到十二个月内同类系统若再强一档,理论上可以借僵尸网络的方式对互联网基础设施造成规模级破坏。这个数字是推演而非观测,读的时候该当推演读。

为什么是「开放权限」,而不是「大家签个协议」

对照他提出的诉求,真正的动作只有一个:把第三方评估员放进公司内部,给到与员工同级的访问权,而且是长期、不是一次性审计。METR 是被点名的机构之一。

这个选择值得琢磨。如果目标只是「大家一起慢下来」,最直接的做法是去谈一份行业协议,规定谁在什么时候发什么。阿莫迪没往那个方向走,而是先在自己这边做了一件可核验的事。原因不难推:单边放慢在竞争里等于让份额,谁先慢谁吃亏,这是个标准的囚徒困境;而「让外人能查」不依赖别人配合,自己就能做,还能反过来给同行施加压力——你说你也在守承诺,那你敢不敢也让人进来看。

所以文章里那句被引用最多的「放慢一到两年」,其实是主张,不是承诺。真正被兑现的是可验证性。把话说得更直白些:他押的不是同行的善意,是同行不愿意在「拒绝被检查」这件事上被单独拎出来。

响应来得很快,快到了另一层麻烦

文章发出后数小时,山姆·奥特曼公开表示同意阿莫迪的看法,并称 OpenAI 同样会给独立评估机构员工级权限;埃隆·马斯克与德米斯·哈萨比斯也相继表达了认同。四家彼此竞争的公司在同一天就同一主张达成公开一致,在这个行业里相当罕见。

罕见到了什么程度?六天之后,这组公开表态被四名付费订阅用户写进了一份反垄断集体诉讼的诉状里,理由是竞争对手不能用「共同克制」来替代各自的独立决策。也就是说,行业协同的呼吁刚刚获得响应,就先在法律层面撞了一下墙。

这里有个值得留着的疑问:可验证的透明度,能不能真的替代一份谁都不敢签的协议?阿莫迪赌的是能——只要外部评估员看得见,承诺就不用靠信任维系。但外部评估员看得见的前提,是公司愿意一直让他们看得见。这份意愿本身,目前仍然没有任何机制去保证。