9B 参数、只给选项打分不写字,它瞄准的是智能体流水线里那些原本交给前沿模型的琐碎判断
Decision-1 和常见聊天模型的区别在输出形态。调用方先给出一组固定选项,比如「是 / 否」、几个候选类别、一到五分的评分档,模型在一次前向推理里给每个选项算出一个校准过的概率,通过结构化 API 返回,不写任何解释性文字。
据多家科技媒体援引的模型说明,它是在 Qwen3.5-9B 基础上做后训练得到的 90 亿参数模型。支持的题型包括是非判断、多选、评分,以及按评分细则给 AI 的回答或智能体的某一步动作打分。最后这一项,就是现在很多团队用大模型充当「裁判」(LLM-as-judge)在做的事。
「输出 token 免费」听上去很大方,放到这个模型上其实顺理成章:它返回的只是几个选项对应的概率,几乎不产生需要按 token 计价的生成内容。真正的成本都在输入侧,而 0.042 美元每百万 tokens 的输入价,比主流前沿模型低了一到两个数量级。
微软称这些成绩来自 36 项基准、近 15 万道题,且题目在训练中保持「盲测」。纳德拉 10 月 9 日亲自发文宣布,规格不低。不过性能、速度都是微软自己测的,目前没有独立评测机构的复现。
「比 GPT-6 Sol 快 35 倍」是这次发布里传播最广的一句,但两者本来就不在一个重量级。GPT-6 Sol 是 OpenAI 的通用推理模型,回答一个分类问题也要走完整的生成流程;Decision-1 只有 9B 参数,又跳过了逐字生成,快几十倍并不意外。
这个对比有意思的地方在于它暴露的使用习惯:大量智能体流水线里,最频繁的调用不是写长文,而是「这条请求该交给哪个模型」「这一步结果算不算通过」这类判断。过去不少团队直接拿前沿模型来做这些判断,图的是省事。Decision-1 的定价就是冲着这部分调用量来的,它们原本按前沿模型的价格计费,换成专用小模型后,单次成本会断崖式下降。
还有一层是微软和 OpenAI 的关系。微软这两年一直在推自研的 MAI 系列模型,这次又选了阿里的 Qwen 开源底座做后训练,再把 OpenAI 的旗舰模型放在对比表里当参照。它要占的是推理链路里最琐碎的那一层,从这一层开始,越来越多调用量不必再交给 OpenAI 的通用模型。