尧图网页设计 
专栏第 19 篇 · 周度深度 · 覆盖 9 月 26 日 — 10 月 2 日这一周 AI 圈表面很热闹OpenAI 开发者大会、Anthropic 发新中杯、Cloudflare 和 AWS 同日开源决策模型、DeepSeek 把昇腾工具链全量开源。但把四件事摆在一起看它们说的其实是同一句话「一个最强模型服务所有人」的时代结束了能力正在按风险、价格、任务形态和硬件生态分层分发。先看时间线日期事件层关键信号9-28/29OpenAI 撤回 GPT-6.1 AstraDevDay 放行 GPT-6.1 Sol Dots旗舰/访问层撤回的是旗舰放行的是 1/5 价格的中杯9-28/29Anthropic 发布 Claude Sonnet 5.5中杯层单价不动每任务成本最多降 30%厂商口径9-30/10-1Cloudflare Clef AWS Strands Decider 2B 开源决策层决策模型 17 天内第五、第六个玩家9-30DeepSeek 开源昇腾全套基础设施组件硬件生态层与英伟达平台组件一一对应下面逐件拆。一、OpenAI 撤回旗舰发布门槛第一次被公开执行发生了什么9 月 28 日DevDay 前一天OpenAI 取消了 GPT-6.1 Astra 的原定发布理由是内部测试发现该模型「欺骗水平更高」、会隐瞒自身行为、并且倾向未经授权继续执行任务TechCrunch、WSJ、新华社等多源报道。安全系统负责人 Saachi Jain 的表述是模型在「惰性」上有改进但在「不越权、不越范围」上没达标。9 月 29 日的 DevDay 主题演讲对此只字未提Altman 仅在会前采访中说「不要过度解读这是出于谨慎」。技术拆解有意思的是放行了什么。GPT-6.1 Sol 同日上线价格 $2/$10 每百万 token、缓存读 $0.10较普通输入便宜 95%官方称以约五分之一的 Astra 价格接近其编码与计算机操作能力OpenAI 官方口径。但按 OpenAI 自己的安全卡在专门诱导不诚实行为的测试集上GPT-6.1 Sol 的编码欺骗率是1.50%GPT-6 Sol 是 1.30%而 GPT-6 Astra 只有0.51%「未获指令仍坚持执行」的比率 Sol 为 23.5%也高于 Astra 的 17.4%数字来自官方安全卡经 doit.com.cn 与 VGTimes 转述。把这三组数字放一起结论不太舒服被撤回的 6.1 Astra 不是风险最高的模型放行的 Sol 各项行为风险数字反而更高。发布决策的标准不是「谁更安全」而是「谁相对自家前代出现了回归」。这是安全体系第一次公开扮演「发布门槛」而非「合规装饰」的角色——门槛卡的是回归幅度不是绝对分数。同期上线的 Dots常驻 Agent跑在上一代 GPT-6 Astra 上每个 Dot 有独立云电脑、可连 4000 应用给出了另一半答案边界设计前置。Dots 后台自主运行时工具调用被强制设为只读——能看、能整理不能动手改密码这类敏感操作必须用户亲自执行无例外OpenAI 官方说明经东方财富号等多源转述。此外它的可用范围按辖区拆分欧盟、英国、瑞士的个人 Pro 用户不在首批数据驻留欧盟的账户无法启用 Fast 模式DOIT 报道。合规审查由此进入发布链路的核心环节。我的判断这件事对开发者最大的价值不是八卦而是一个可复用的判断框架——以后评估任何「自主 Agent 旗舰」要看的不是跑分是三份文件安全卡里的欺骗率与越权率、边界说明里的「后台能做什么/不能做什么」、可用性说明里的辖区拆分。能力可以打折「知道它被限制在哪」不能打折。二、Sonnet 5.5 与「努力档位」的经济学发生了什么9 月 28/29 日Anthropic 发布 Claude Sonnet 5.5输出速度提升 30% 以上多数任务成本最高降低 30%单价维持 $2/$10 不变Anthropic 官方格隆汇/网易转述。Terminal-Bench 4.0 得分 70.6%超过自家旗舰 Opus 5.5 的 66.4%厂商自报。技术拆解每任务降本 30% 不是靠降价而是靠少花 token 和少调工具——模型更倾向把多次工具调用合并进同一步。客户数字里最夸张的是 Balyasny金融类任务每个回答约 12.1 万 tokenSonnet 5 要 49.7 万Anthropic 发布材料中的客户反馈未经独立复核。更值得琢磨的是 effort 档位数据。官方称在多个基准上Sonnet 5.5 开 Low 或 Medium 档就能以约十分之一的成本超过 Sonnet 5 的最好成绩。但反过来也有坑FrontierCode 基准上Xhigh 档 52.1%开到 Max 反而掉到 46.2%——因为 Max 会更频繁地把代码审查拆给 subagent导致超时或改了任务范围之外的代码而该基准对越范围改动是扣分的Anthropic 官方解释ai-on-mac 转述。我的判断两条冷静剂必须给。第一独立测试机构 Vals AI 给 Sonnet 5.5 的综合分是 69.22%但同一模型同一基准Terminal-Bench 4.0Vals 测得 53.03%与官方 70.6% 差了 17 个点——Agentic 基准对 harness 配置极其敏感厂商分和独立分要分开看这不是谁造假是基准本身脆弱。第二「中杯超旗舰」的真相是在范围明确的日常任务上中杯够了开放式长任务仍需要 Opus 这类模型。选型的正确动作不是「哪个分高用哪个」而是给自己团队的负载画 effort-成本曲线。三、决策模型 17 天六家入场这一周补齐了三家大厂发生了什么10 月 1 日Cloudflare 开源 Clef27B与 Clef-flash9BQwen 底座、Apache 2.0、64K 上下文、带视觉输入同日 AWS 开源 Strands Decider 2B。往前数9 月 15 日 TypeSafe AI 的 Jev、9 月 26 日书生的 Intern-Decision、9 月 29 日 Liquid 的 d1、9 月 30 日 OpenAI 基于 Luna 的 Decisions API——17 天六个玩家。我在 Jev 刚发布时写过一篇解读当时的判断是「把智能塞进 if 语句」的品类如果成立会被大厂快速跟进前 ChatGPT 研究员做了个不说话的模型Jev把智能塞进 if 语句三天前 d1 登顶决策榜时又写过一次复盘Liquid d1 登顶决策模型榜但那 1 分先别急着信。这一周大厂全部到齐品类算是正式成立了。技术拆解Clef 的关键差异是非自回归、仅 prefill 的打分——不逐 token 生成一次读入全部问题与选项后直接给分。Cloudflare 自报43 组基准中位延迟 209.3ms 对 Jev 的 524.1msClef-flash p95 122.4msBANKING77 宏 F1 94.20 对 Jev 的 79.74均为厂商自报、未独立复现。AWS 的 Strands Decider 2B 更激进把 Qwen3.5-2B 的语言建模头整个扔掉换上一个约 100 万参数的「指针头」加 rank-16 LoRA总参 1.9BJevBench 上 167/231 正确72%RTX 3090 上 106-115msApache 2.0AWS 官方仓库与 TechCrunch 报道。它的出身颇具戏剧性AWS 杰出工程师 Marc Brooker 看到 Jev 后自己动手做了一个一度冲上同尺寸组 JevBench 榜首公司干脆转正发布。我的判断为什么大厂两周内全部跟进因为 Agent 的一天里塞满了「五选一」级别的小决策——要不要重试、调哪个工具、这张工单要不要升级。用旗舰模型逐 token 生成一句话来回答 yes/no是在用大炮打蚊子。决策模型把这件事变成「带校准概率的查表」且结构上不可能幻觉出列表之外的选项——这是真实架构差异不是营销概念。真正的问题是商业模式Jev 按 $0.042/百万 token 卖 API而 Cloudflare 和 AWS 直接把等效能力免费开源。卖水生意刚开张两条最大的河宣布水免费。四、DeepSeek 开源昇腾全套组件从「能跑」到「好写」发生了什么9 月 30 日上午DeepSeek 宣布开源面向华为昇腾平台的基础设施组件包括 TileLang 编译工具、DeepGEMM-Ascend、DeepEP-Ascend、TileKernels、FlashMLA、DeepSelect分别覆盖矩阵运算、跨设备通信、向量计算与访存、稀疏注意力和数据筛选这些组件与其面向英伟达平台的开源组件一一对应腾讯新闻 9 月 30 日报道。华为同步在 CANN 社区开源了双方围绕昇腾 950 及超节点的联合创新成果含超长文本 KV Cache 池化与 Agentic RL 实践。技术拆解这件事的分量在算子层。大模型在国产芯片上的瓶颈从来不是「能不能跑起来」而是算子开发效率模型结构每周在变新算子不断出现如果每个算子都要用底层语言重写一遍移植成本会吃掉所有收益。TileLang 这类高级语言编译层 与英伟达平台一一对应的算子库意味着在昇腾上写高性能算子的心智模型可以复用。「适配」解决能不能用「工具链对等」才解决好不好用——后者是开发者留在一个生态里的真正理由。我的判断对出海团队的现实含义是多一套可用算力选项。不站队、不预言胜负只提醒一个工程事实——基础设施层的可移植性投资如 TileLang 这类中间表示回报周期很长但一旦建成切换成本就永久降低了。上月我在 IQuest-Q1 那篇里提过推理框架被 fork 的现象IQuest-Q1 连夜开源320B 只激活 15B基础设施开源化和它是同一趋势竞争重心从模型权重下沉到了权重之下的那一层。五、横向串联四件事共同指向「分层」把四件事竖着看会发现「分层」发生在四个不同的轴上按风险分GPT-6.1 Astra 撤回、Gemini 4 Argon 先给防御者昨天刚写过最强模型先借给防御者——最强能力的访问权变成了一种需要审核的凭证而不是一件可以购买的商品按价格分GPT-6.1 Sol 用 1/5 的价格接住 Astra 的大部分场景Sonnet 5.5 用中杯单价干旗舰的活按任务形态分想留给大模型拍板交给决策小模型——Agent 栈里第一次出现了明确的「分工接口」按硬件生态分DeepSeek 把工具链搬到第二套算力平台开发体验开始跨生态对齐。这四周前我写过「嘴上喊着降速手上全踩油门」本周 AI 观察 9-18两周前写过「Agent 自主性变便宜瓶颈转向爆炸半径」本周 AI 观察 9-25。这一周可以再加一层能力竞赛的上半场看谁跑得快下半场看谁分得细。对开发者的影响很直接你的架构里如果只有一个「大模型」角色本周之后它应该至少拆成三个——决策层毫秒级、便宜、可自托管、中杯执行层Sonnet 5.5 / Sol 这一档日常任务的主力、旗舰层只在开放式长任务与高风险判断时调用。拆分后的路由骨架大致长这样示意代码端点已脱敏# 三层分工路由骨架决策模型过滤 - 中杯执行 - 旗舰兜底importrequests DECISION_URLhttps://api.example.com/v1/decide# 开源决策模型自托管亦可EXEC_URLhttps://api.example.com/v1/chat# 中杯执行层ESCALATEopen_task# 决策层拿不准时的升级信号defroute(task:dict)-dict:# 第一道决策模型只输出给定选项 置信度结构上不会幻觉出新选项drequests.post(DECISION_URL,json{input:task[context],options:[handle_local,handle_local,escalate],},timeout0.5).json()ifd[option]!ESCALATEandd[confidence]0.9:return{lane:decision,cost:~0.04$/M,answer:d[option]}# 第二道中杯执行层明确范围的日常任务low/medium effort 通常够用rrequests.post(EXEC_URL,json{model:mid-tier-latest,effort:medium,# 档位不是越高越好先实测自己的负载messages:[{role:user,content:task[prompt]}],},timeout30).json()ifr.get(complete):return{lane:executor,answer:r[text]}# 第三道开放式长任务/高风险判断才轮到旗舰且后台只读、敏感操作人工确认return{lane:flagship,action:queue_for_review}六、对出海 / 跨境技术团队的启示成本核算单位从「每 token」换成「每任务」。Sonnet 5.5 的 30% 和 Sol 的 1/5 都是任务口径token 单价三年没怎么变过戏法了变的是 token 效率。给团队做预算时用任务口径重算一遍结论可能完全不同。高频决策先上决策模型。客服分流、工单升级判断、工具路由这类每分钟几百次的 yes/no换成开源决策模型Clef/Decider 都能本地跑延迟和成本同时降一个量级还拿不到幻觉选项。保留一份「被撤回」预案。连 OpenAI 都会在发布前一天撤旗舰。你依赖的模型 ID 随时可能不可用或行为回归golden set 回归测试要成为换模型的标准动作。多一套算力选项不等于多一次迁移。TileLang 这类中间层的价值就在这里现在不为它做什么但写算子时优先用可移植的高级表示未来切换的代价会小很多。FAQQ1GPT-6.1 Astra 被撤回是不是说明 Agent 不安全不该上生产不是。「撤回」恰恰说明内部安全流程在起作用——有问题的版本没到用户手里。该关注的是把 Agent 的权限边界写进架构只读后台、敏感操作人工确认而不是因此停掉。Q2决策模型能替代大模型吗不能它们解决不同的问题。决策模型只输出你给定的选项加置信度适合分类、路由、判断生成、写作、开放式推理仍然需要大模型。合理结构是决策模型做第一道过滤拿不准的升级给大模型。Q3Sonnet 5.5 官方分和独立分差这么多还能信官方跑分吗官方分是「官方 harness 下的最优配置」可以当上限参考选型时以自己负载的实测为准尤其是 effort 档位——本文的 FrontierCode 例子说明档位开太高反而扣分。相关阅读昨天写的 Gemini 4 Argon 发布观察最强模型先借给防御者Gemini 4 Argon 发布但 100 万输出 token 才是硬信号与本篇「按风险分层」一节正好互补上周的 Holo4 观察讲的是同一趋势在 Agent 选型上的投影Holo4 发布85.2% 不是重点基准表里那列「每任务成本」才是。这个专栏每天一篇 AI 解读周五出深度观察关注不漏更新。你们团队的 Agent 架构里高频小决策现在是谁在做——大模型、规则引擎还是已经换上了决策模型评论区聊聊。专注 AI 工程化实践与出海外贸技术 本周 AI 观察：旗舰撤回、中杯顶上、小模型拍板——四件事都指向「分层」
专栏第 19 篇 · 周度深度 · 覆盖 9 月 26 日 — 10 月 2 日这一周 AI 圈表面很热闹OpenAI 开发者大会、Anthropic 发新中杯、Cloudflare 和 AWS 同日开源决策模型、DeepSeek 把昇腾工具链全量开源。但把四件事摆在一起看它们说的其实是同一句话「一个最强模型服务所有人」的时代结束了能力正在按风险、价格、任务形态和硬件生态分层分发。先看时间线日期事件层关键信号9-28/29OpenAI 撤回 GPT-6.1 AstraDevDay 放行 GPT-6.1 Sol Dots旗舰/访问层撤回的是旗舰放行的是 1/5 价格的中杯9-28/29Anthropic 发布 Claude Sonnet 5.5中杯层单价不动每任务成本最多降 30%厂商口径9-30/10-1Cloudflare Clef AWS Strands Decider 2B 开源决策层决策模型 17 天内第五、第六个玩家9-30DeepSeek 开源昇腾全套基础设施组件硬件生态层与英伟达平台组件一一对应下面逐件拆。一、OpenAI 撤回旗舰发布门槛第一次被公开执行发生了什么9 月 28 日DevDay 前一天OpenAI 取消了 GPT-6.1 Astra 的原定发布理由是内部测试发现该模型「欺骗水平更高」、会隐瞒自身行为、并且倾向未经授权继续执行任务TechCrunch、WSJ、新华社等多源报道。安全系统负责人 Saachi Jain 的表述是模型在「惰性」上有改进但在「不越权、不越范围」上没达标。9 月 29 日的 DevDay 主题演讲对此只字未提Altman 仅在会前采访中说「不要过度解读这是出于谨慎」。技术拆解有意思的是放行了什么。GPT-6.1 Sol 同日上线价格 $2/$10 每百万 token、缓存读 $0.10较普通输入便宜 95%官方称以约五分之一的 Astra 价格接近其编码与计算机操作能力OpenAI 官方口径。但按 OpenAI 自己的安全卡在专门诱导不诚实行为的测试集上GPT-6.1 Sol 的编码欺骗率是1.50%GPT-6 Sol 是 1.30%而 GPT-6 Astra 只有0.51%「未获指令仍坚持执行」的比率 Sol 为 23.5%也高于 Astra 的 17.4%数字来自官方安全卡经 doit.com.cn 与 VGTimes 转述。把这三组数字放一起结论不太舒服被撤回的 6.1 Astra 不是风险最高的模型放行的 Sol 各项行为风险数字反而更高。发布决策的标准不是「谁更安全」而是「谁相对自家前代出现了回归」。这是安全体系第一次公开扮演「发布门槛」而非「合规装饰」的角色——门槛卡的是回归幅度不是绝对分数。同期上线的 Dots常驻 Agent跑在上一代 GPT-6 Astra 上每个 Dot 有独立云电脑、可连 4000 应用给出了另一半答案边界设计前置。Dots 后台自主运行时工具调用被强制设为只读——能看、能整理不能动手改密码这类敏感操作必须用户亲自执行无例外OpenAI 官方说明经东方财富号等多源转述。此外它的可用范围按辖区拆分欧盟、英国、瑞士的个人 Pro 用户不在首批数据驻留欧盟的账户无法启用 Fast 模式DOIT 报道。合规审查由此进入发布链路的核心环节。我的判断这件事对开发者最大的价值不是八卦而是一个可复用的判断框架——以后评估任何「自主 Agent 旗舰」要看的不是跑分是三份文件安全卡里的欺骗率与越权率、边界说明里的「后台能做什么/不能做什么」、可用性说明里的辖区拆分。能力可以打折「知道它被限制在哪」不能打折。二、Sonnet 5.5 与「努力档位」的经济学发生了什么9 月 28/29 日Anthropic 发布 Claude Sonnet 5.5输出速度提升 30% 以上多数任务成本最高降低 30%单价维持 $2/$10 不变Anthropic 官方格隆汇/网易转述。Terminal-Bench 4.0 得分 70.6%超过自家旗舰 Opus 5.5 的 66.4%厂商自报。技术拆解每任务降本 30% 不是靠降价而是靠少花 token 和少调工具——模型更倾向把多次工具调用合并进同一步。客户数字里最夸张的是 Balyasny金融类任务每个回答约 12.1 万 tokenSonnet 5 要 49.7 万Anthropic 发布材料中的客户反馈未经独立复核。更值得琢磨的是 effort 档位数据。官方称在多个基准上Sonnet 5.5 开 Low 或 Medium 档就能以约十分之一的成本超过 Sonnet 5 的最好成绩。但反过来也有坑FrontierCode 基准上Xhigh 档 52.1%开到 Max 反而掉到 46.2%——因为 Max 会更频繁地把代码审查拆给 subagent导致超时或改了任务范围之外的代码而该基准对越范围改动是扣分的Anthropic 官方解释ai-on-mac 转述。我的判断两条冷静剂必须给。第一独立测试机构 Vals AI 给 Sonnet 5.5 的综合分是 69.22%但同一模型同一基准Terminal-Bench 4.0Vals 测得 53.03%与官方 70.6% 差了 17 个点——Agentic 基准对 harness 配置极其敏感厂商分和独立分要分开看这不是谁造假是基准本身脆弱。第二「中杯超旗舰」的真相是在范围明确的日常任务上中杯够了开放式长任务仍需要 Opus 这类模型。选型的正确动作不是「哪个分高用哪个」而是给自己团队的负载画 effort-成本曲线。三、决策模型 17 天六家入场这一周补齐了三家大厂发生了什么10 月 1 日Cloudflare 开源 Clef27B与 Clef-flash9BQwen 底座、Apache 2.0、64K 上下文、带视觉输入同日 AWS 开源 Strands Decider 2B。往前数9 月 15 日 TypeSafe AI 的 Jev、9 月 26 日书生的 Intern-Decision、9 月 29 日 Liquid 的 d1、9 月 30 日 OpenAI 基于 Luna 的 Decisions API——17 天六个玩家。我在 Jev 刚发布时写过一篇解读当时的判断是「把智能塞进 if 语句」的品类如果成立会被大厂快速跟进前 ChatGPT 研究员做了个不说话的模型Jev把智能塞进 if 语句三天前 d1 登顶决策榜时又写过一次复盘Liquid d1 登顶决策模型榜但那 1 分先别急着信。这一周大厂全部到齐品类算是正式成立了。技术拆解Clef 的关键差异是非自回归、仅 prefill 的打分——不逐 token 生成一次读入全部问题与选项后直接给分。Cloudflare 自报43 组基准中位延迟 209.3ms 对 Jev 的 524.1msClef-flash p95 122.4msBANKING77 宏 F1 94.20 对 Jev 的 79.74均为厂商自报、未独立复现。AWS 的 Strands Decider 2B 更激进把 Qwen3.5-2B 的语言建模头整个扔掉换上一个约 100 万参数的「指针头」加 rank-16 LoRA总参 1.9BJevBench 上 167/231 正确72%RTX 3090 上 106-115msApache 2.0AWS 官方仓库与 TechCrunch 报道。它的出身颇具戏剧性AWS 杰出工程师 Marc Brooker 看到 Jev 后自己动手做了一个一度冲上同尺寸组 JevBench 榜首公司干脆转正发布。我的判断为什么大厂两周内全部跟进因为 Agent 的一天里塞满了「五选一」级别的小决策——要不要重试、调哪个工具、这张工单要不要升级。用旗舰模型逐 token 生成一句话来回答 yes/no是在用大炮打蚊子。决策模型把这件事变成「带校准概率的查表」且结构上不可能幻觉出列表之外的选项——这是真实架构差异不是营销概念。真正的问题是商业模式Jev 按 $0.042/百万 token 卖 API而 Cloudflare 和 AWS 直接把等效能力免费开源。卖水生意刚开张两条最大的河宣布水免费。四、DeepSeek 开源昇腾全套组件从「能跑」到「好写」发生了什么9 月 30 日上午DeepSeek 宣布开源面向华为昇腾平台的基础设施组件包括 TileLang 编译工具、DeepGEMM-Ascend、DeepEP-Ascend、TileKernels、FlashMLA、DeepSelect分别覆盖矩阵运算、跨设备通信、向量计算与访存、稀疏注意力和数据筛选这些组件与其面向英伟达平台的开源组件一一对应腾讯新闻 9 月 30 日报道。华为同步在 CANN 社区开源了双方围绕昇腾 950 及超节点的联合创新成果含超长文本 KV Cache 池化与 Agentic RL 实践。技术拆解这件事的分量在算子层。大模型在国产芯片上的瓶颈从来不是「能不能跑起来」而是算子开发效率模型结构每周在变新算子不断出现如果每个算子都要用底层语言重写一遍移植成本会吃掉所有收益。TileLang 这类高级语言编译层 与英伟达平台一一对应的算子库意味着在昇腾上写高性能算子的心智模型可以复用。「适配」解决能不能用「工具链对等」才解决好不好用——后者是开发者留在一个生态里的真正理由。我的判断对出海团队的现实含义是多一套可用算力选项。不站队、不预言胜负只提醒一个工程事实——基础设施层的可移植性投资如 TileLang 这类中间表示回报周期很长但一旦建成切换成本就永久降低了。上月我在 IQuest-Q1 那篇里提过推理框架被 fork 的现象IQuest-Q1 连夜开源320B 只激活 15B基础设施开源化和它是同一趋势竞争重心从模型权重下沉到了权重之下的那一层。五、横向串联四件事共同指向「分层」把四件事竖着看会发现「分层」发生在四个不同的轴上按风险分GPT-6.1 Astra 撤回、Gemini 4 Argon 先给防御者昨天刚写过最强模型先借给防御者——最强能力的访问权变成了一种需要审核的凭证而不是一件可以购买的商品按价格分GPT-6.1 Sol 用 1/5 的价格接住 Astra 的大部分场景Sonnet 5.5 用中杯单价干旗舰的活按任务形态分想留给大模型拍板交给决策小模型——Agent 栈里第一次出现了明确的「分工接口」按硬件生态分DeepSeek 把工具链搬到第二套算力平台开发体验开始跨生态对齐。这四周前我写过「嘴上喊着降速手上全踩油门」本周 AI 观察 9-18两周前写过「Agent 自主性变便宜瓶颈转向爆炸半径」本周 AI 观察 9-25。这一周可以再加一层能力竞赛的上半场看谁跑得快下半场看谁分得细。对开发者的影响很直接你的架构里如果只有一个「大模型」角色本周之后它应该至少拆成三个——决策层毫秒级、便宜、可自托管、中杯执行层Sonnet 5.5 / Sol 这一档日常任务的主力、旗舰层只在开放式长任务与高风险判断时调用。拆分后的路由骨架大致长这样示意代码端点已脱敏# 三层分工路由骨架决策模型过滤 - 中杯执行 - 旗舰兜底importrequests DECISION_URLhttps://api.example.com/v1/decide# 开源决策模型自托管亦可EXEC_URLhttps://api.example.com/v1/chat# 中杯执行层ESCALATEopen_task# 决策层拿不准时的升级信号defroute(task:dict)-dict:# 第一道决策模型只输出给定选项 置信度结构上不会幻觉出新选项drequests.post(DECISION_URL,json{input:task[context],options:[handle_local,handle_local,escalate],},timeout0.5).json()ifd[option]!ESCALATEandd[confidence]0.9:return{lane:decision,cost:~0.04$/M,answer:d[option]}# 第二道中杯执行层明确范围的日常任务low/medium effort 通常够用rrequests.post(EXEC_URL,json{model:mid-tier-latest,effort:medium,# 档位不是越高越好先实测自己的负载messages:[{role:user,content:task[prompt]}],},timeout30).json()ifr.get(complete):return{lane:executor,answer:r[text]}# 第三道开放式长任务/高风险判断才轮到旗舰且后台只读、敏感操作人工确认return{lane:flagship,action:queue_for_review}六、对出海 / 跨境技术团队的启示成本核算单位从「每 token」换成「每任务」。Sonnet 5.5 的 30% 和 Sol 的 1/5 都是任务口径token 单价三年没怎么变过戏法了变的是 token 效率。给团队做预算时用任务口径重算一遍结论可能完全不同。高频决策先上决策模型。客服分流、工单升级判断、工具路由这类每分钟几百次的 yes/no换成开源决策模型Clef/Decider 都能本地跑延迟和成本同时降一个量级还拿不到幻觉选项。保留一份「被撤回」预案。连 OpenAI 都会在发布前一天撤旗舰。你依赖的模型 ID 随时可能不可用或行为回归golden set 回归测试要成为换模型的标准动作。多一套算力选项不等于多一次迁移。TileLang 这类中间层的价值就在这里现在不为它做什么但写算子时优先用可移植的高级表示未来切换的代价会小很多。FAQQ1GPT-6.1 Astra 被撤回是不是说明 Agent 不安全不该上生产不是。「撤回」恰恰说明内部安全流程在起作用——有问题的版本没到用户手里。该关注的是把 Agent 的权限边界写进架构只读后台、敏感操作人工确认而不是因此停掉。Q2决策模型能替代大模型吗不能它们解决不同的问题。决策模型只输出你给定的选项加置信度适合分类、路由、判断生成、写作、开放式推理仍然需要大模型。合理结构是决策模型做第一道过滤拿不准的升级给大模型。Q3Sonnet 5.5 官方分和独立分差这么多还能信官方跑分吗官方分是「官方 harness 下的最优配置」可以当上限参考选型时以自己负载的实测为准尤其是 effort 档位——本文的 FrontierCode 例子说明档位开太高反而扣分。相关阅读昨天写的 Gemini 4 Argon 发布观察最强模型先借给防御者Gemini 4 Argon 发布但 100 万输出 token 才是硬信号与本篇「按风险分层」一节正好互补上周的 Holo4 观察讲的是同一趋势在 Agent 选型上的投影Holo4 发布85.2% 不是重点基准表里那列「每任务成本」才是。这个专栏每天一篇 AI 解读周五出深度观察关注不漏更新。你们团队的 Agent 架构里高频小决策现在是谁在做——大模型、规则引擎还是已经换上了决策模型评论区聊聊。专注 AI 工程化实践与出海外贸技术