BridgeMind 自己先给数字降了温:一次下滑够不上「降智」,但这套公开基线让「什么都没改」变得更难说出口。
Claude Opus 5.5 是 Anthropic 在 9 月 22 日推出的新旗舰。发布后没几天,社区里就开始流传「Opus 5.5 已经被偷偷削弱」的说法,开发者工具团队 BridgeMind 于是在自家评测平台 BridgeBench 上推出了 NerfBench:每个模型在发布当天跑一遍基准,这个成绩记为 100%;之后用同一套题反复重测,除了得分,还记录每个任务消耗的 token 和成本。
按 BridgeMind 和 BridgeBench 账号陆续公布的数据,Opus 5.5 这几轮的走势大致是:
同一轮里的其他模型:Sonnet 5.5 为 100.9%,OpenAI 的 GPT 6 Astra 为 98.0%,GPT 6.1 Sol 为 106.7%。这些百分比都只和各自的发布日成绩比,不是横向排名。
NerfBench 测的是编程代理类任务,模型要连续读代码、调用工具、改文件、跑测试。这类任务对随机性非常敏感:大模型的输出本身是采样出来的,同一道题跑两次,前几步的一个小偏差就可能让后面整条路线走岔,最终结果从「通过」变成「失败」。题量有限时,几道题的翻转就足以让总分摆动好几个百分点。
更有说服力的反证就在同一张榜上。GPT 6.1 Sol 前几天才加入、刚锁定基线,现在已经是 106.7%,没有人会因此认为 OpenAI 悄悄给它升了级。既然同一套测量能在几天内把一个模型往上推 6.7%,那把另一个模型往下压 5.8%,也完全可能是同一种噪声。Opus 5.5 自己从 103.8% 到 94.2% 的落差,某种程度上就是在给这套测量的噪声宽度画刻度。
测量之外,推理侧也有不少变量。Anthropic 曾公开说明,Claude 同时跑在 AWS Trainium、英伟达 GPU 和谷歌 TPU 等多种硬件上,不同平台的实现细节并不完全相同;此外,默认推理强度的设置、长对话里上下文的累积,也被独立分析者列为「感觉变笨」的常见来源。这些都不等于厂商主动降配。
这种怀疑并非凭空而来。2025 年 8 月到 9 月初,大量用户抱怨 Claude 回答质量下降,Anthropic 起初没有给出明确解释,直到 9 月发布事后复盘,才承认期间有三个基础设施 bug 在叠加作怪:部分请求被路由到配置不对的服务器、一处 TPU 配置错误导致输出出现乱码、一个编译器层面的近似计算问题影响了词元选择。Anthropic 同时强调,公司不会因为需求或负载而降低模型质量。
那次的结论有两面:用户的体感是真的,但原因不是「故意削弱」而是 bug。问题在于,bug 被确认之前的几周里,用户手里没有任何可以拿出来对照的东西。NerfBench 的发起人在介绍项目时说得很直白:每次新模型发布都是同样的循环,第一天惊艳,几周后大家都觉得它变懒了,厂商说什么都没改,但谁也拿不出证据。这张榜想补的就是这份「证据」。
按 NerfBench 自己的规则,单轮落在 90% 以下才算「掉了能力」,而真正有分量的是连续多轮都在区间下沿徘徊,而不是某一天的低点。另一个更容易被忽略的指标是 token 消耗:如果某个模型的得分走低,同时每个任务用的 token 也明显变少,那更像是推理预算被收紧了;如果 token 没变、分数在上下抖,那多半还是测量本身的波动。
BridgeBench 已经承诺投入 1 万美元,在接下来几个月持续做这类复测,并加入更多模型、提高频次。真要哪天 Opus 5.5 稳定跌破 90%,Anthropic 面对的就不再是论坛里的抱怨帖,而是一条任何人都能查到的公开曲线——到那时,是 bug 还是调整,总得给个说法。