一条空的 system 消息加一个新的 output_config.effort,从下一轮用户输入开始生效,前面的缓存前缀原样保留
output_config.effort,此后的回答就改用新的努力等级,顶层参数不用动,已经写入的提示缓存也还能命中。effort 本身并不新。顶层的 output_config.effort 早已正式可用,不需要额外的 beta 头,作用是告诉模型这一次愿意花多少思考和输出预算:等级高,推理更充分、回答更慢更贵;等级低,响应更快、token 更省。问题在于它过去是整段请求共用的一个开关。一场几十轮的 Agent 会话里,绝大多数轮次只是读文件、跑命令、确认结果,真正需要深想的只有少数几步,但开发者要么全程开高档,要么全程开低档。
这次的 Beta 把开关从「整段请求」下放到「某条消息之后」。按文档描述,做法有几个要点:
output_config.effort;mid-conversation-output-config-2026-07-01;
表面上看,开发者以前也能「中途换档」:下一次请求把顶层 effort 改掉就行。代价藏在提示缓存里。缓存按前缀匹配,请求头部的配置一变,后面的长上下文就可能无法复用,几十 K token 的系统提示、工具定义和历史记录要按全价重新计费,首 token 延迟也跟着回到冷启动水平。对长会话来说,这笔账常常比 effort 本身省下的钱还大,于是很多团队干脆不换档。
新做法把调整写成对话里的一条新消息,位置在已缓存的前缀之后,前面的内容一个字节都没变,缓存自然还能命中。文档在讲自适应思考时也直接建议:日常轮次用这种按消息降档的方式少想一点,而不是去改顶层配置。换句话说,Anthropic 是在把「哪一步值得多花钱」的决定权交给编排层,而不是让模型一律按最高规格干活。
最直接的受益者是自己写 Agent 循环的团队。典型的分工是:规划和复杂调试的那几轮拉高 effort,批量改文件、读日志、跑测试的轮次压低;子任务做完回到主线时,再把等级调回来。过去这种策略要靠切换模型来实现,现在同一个模型、同一份缓存就能完成。
需要留意两点。一是它仍是 Beta,beta 头名称带着日期,后续正式发布时参数形态可能还会调整,生产环境最好把这段逻辑做成可开关的。二是经过第三方网关调用时要先确认对方会原样转发 output_config;有网关文档提醒过,如果代理层把这个字段剥掉,请求照样成功,只是设置悄无声息地失效,这种问题很难从返回结果里看出来。
effort 从一个全局旋钮变成可以随对话节奏拧动的东西,说明模型厂商对 Agent 成本的理解在变:贵的往往不是某一次深度推理,而是在不需要深想的地方也按深想的价格付了钱。