← 返回 Claude AI IP 检测更多资讯 →

Claude API 对话中途可改 effort,提示缓存不用推倒重来

首页 › AI 资讯 › Claude 资讯 · 2026-11-12 · Net.Coffee

一条空的 system 消息加一个新的 output_config.effort,从下一轮用户输入开始生效,前面的缓存前缀原样保留

怎么回事:Anthropic 在 Claude 平台文档里上线了「按消息调整 effort」的 Beta。开发者可以在对话进行到一半时插入一条内容为空的 system 消息,并在其中设置新的 output_config.effort,此后的回答就改用新的努力等级,顶层参数不用动,已经写入的提示缓存也还能命中。

改动落在哪一层

effort 本身并不新。顶层的 output_config.effort 早已正式可用,不需要额外的 beta 头,作用是告诉模型这一次愿意花多少思考和输出预算:等级高,推理更充分、回答更慢更贵;等级低,响应更快、token 更省。问题在于它过去是整段请求共用的一个开关。一场几十轮的 Agent 会话里,绝大多数轮次只是读文件、跑命令、确认结果,真正需要深想的只有少数几步,但开发者要么全程开高档,要么全程开低档。

这次的 Beta 把开关从「整段请求」下放到「某条消息之后」。按文档描述,做法有几个要点:

漫画:Claude 小机器人开火车途中切换努力档位,满载的缓存车厢无需卸货

真正省钱的是缓存那一句

表面上看,开发者以前也能「中途换档」:下一次请求把顶层 effort 改掉就行。代价藏在提示缓存里。缓存按前缀匹配,请求头部的配置一变,后面的长上下文就可能无法复用,几十 K token 的系统提示、工具定义和历史记录要按全价重新计费,首 token 延迟也跟着回到冷启动水平。对长会话来说,这笔账常常比 effort 本身省下的钱还大,于是很多团队干脆不换档。

新做法把调整写成对话里的一条新消息,位置在已缓存的前缀之后,前面的内容一个字节都没变,缓存自然还能命中。文档在讲自适应思考时也直接建议:日常轮次用这种按消息降档的方式少想一点,而不是去改顶层配置。换句话说,Anthropic 是在把「哪一步值得多花钱」的决定权交给编排层,而不是让模型一律按最高规格干活。

谁会先用起来

最直接的受益者是自己写 Agent 循环的团队。典型的分工是:规划和复杂调试的那几轮拉高 effort,批量改文件、读日志、跑测试的轮次压低;子任务做完回到主线时,再把等级调回来。过去这种策略要靠切换模型来实现,现在同一个模型、同一份缓存就能完成。

需要留意两点。一是它仍是 Beta,beta 头名称带着日期,后续正式发布时参数形态可能还会调整,生产环境最好把这段逻辑做成可开关的。二是经过第三方网关调用时要先确认对方会原样转发 output_config;有网关文档提醒过,如果代理层把这个字段剥掉,请求照样成功,只是设置悄无声息地失效,这种问题很难从返回结果里看出来。

effort 从一个全局旋钮变成可以随对话节奏拧动的东西,说明模型厂商对 Agent 成本的理解在变:贵的往往不是某一次深度推理,而是在不需要深想的地方也按深想的价格付了钱。