ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

treg容量感知(Capacity)系统深度解析:treg自己的供应商账号还剩多少

treg容量感知(Capacity)系统深度解析:treg自己的供应商账号还剩多少 treg容量感知Capacity系统深度解析treg自己的供应商账号还剩多少【免费下载链接】tregOpenRouter for agent tools. Join community here: https://discord.gg/6mQYYfFMAn项目地址: https://gitcode.com/GitHub_Trending/treg/tregtreg 是一个面向 Agent 工具的 OpenRouter——用一个统一的密钥调用 2000 个第三方数据工具。但平台账号的余额会耗尽当 treg 自己的供应商账号没钱时调用方不该收到一个自己无法修复的 402 错误。treg 的容量感知系统capacity专门解决这个问题提前知道还剩多少、快用完前主动保护、真的用完时自动切换备用通道。为什么需要容量感知treg 的商业模式分两类凭证你自己的 KeyBYOK用你自己的供应商账号余额归你管平台完全不管平台托管的 Keytreg 持有供应商账号比如 Hunter、Lusha、Serper用户无 Key 也能直接调用。第二类的风险在于平台账号是预付费的共享钱包用完即止。treg 的应对分三层也是整个容量系统的设计骨架层次做什么对应模块Know知道定期查余额算出跑道还剩多长collectors/sweep/policyProtect保护账号确认耗尽时快速拦截并返回带建议的 503marks/viewOverflow溢出主账号没用时自动改走备用聚合器账号overflow/routes完整的系统设计文档在 docs/context/ops/capacity.md核心代码集中在 src/treg/domain/capacity/。第一步Know —— 定期查水表免费的余额采集器每个供应商都有自己的免费账户接口查余额不花钱。treg 为每个平台账号写了一个采集器全部放在 src/treg/domain/capacity/collectors.py调供应商自己的免费账户/配额接口永远不消耗计费用的调用只接受有限、非负的数字缺失、负数、布尔值一律标记为unknown而不是 0——猜不出余额时宁可说不知道采集结果只包含数字余额、单位、备注API Key 等凭证永远不会被写进数据。一个有趣的细节只有 DataForSEO 和 TikHub 用美元计量其余供应商各自用自己的货币——credits、rows、searches。采集器会如实记录单位绝不把剩余积分虚构成剩余美元。SweepWorker 的一次完整巡检巡检命令是treg-worker capacity sweep入口在 src/treg/worker.py执行流程src/treg/domain/capacity/sweep.py导入所有账号的策略行不存在的补默认值人工改过的绝不覆盖并行向所有供应商发起余额查询数据库在此期间保持空闲每个供应商写一条CapacitySnapshot追加记录查询失败也是一条记录计算每个供应商的最新状态发布到共享存储24 小时有效期一次提交。还有一条纯函数规则src/treg/domain/capacity/policy.py 中的latest_state把快照翻译成语义状态没有观测 / 失败 / 超过 6 小时 →stale过时数据绝不拦调用精确观测且余额 0.01 →exhausted耗尽一个被花光的浮点积分池可能读出几百万分之一所以阈值是 0.01 而不是 0一直持续到计量周期重置或下次巡检证明恢复其余 →ok。这个stale 不拦、exhausted 才拦的原则非常关键宁可漏拦一次多传一个供应商错误也不能误拦让所有用户白白吃 503。第二步Protect —— 慢开快关的熔断器熔断器的两次击打规则调用路径不直接查余额表而是读一份 60 秒刷新的进程内视图src/treg/domain/capacity/view.py。真正的断路器在 src/treg/domain/capacity/marks.py慢开供应商对 treg 的账号返回一次余额/配额耗尽信号只记一次 strike10 分钟内的第二次信号才触发锁快关锁定期间每 60 秒放行一次探针调用一旦收到 2xx 成功锁立即解除自动过期猜测性锁最长 1 小时供应商明确告知的重置时间最长 6 小时到点自动失效。为什么设计得这么迟钝因为供应商自动续费的账号余额可能经常在零附近徘徊真正的配额错误万里只出现一次——一次误判的代价是全体调用者的 503而漏判一次只多传一个供应商错误。错误签名表识别伪装成限流的余额耗尽难点在于每家供应商表达没钱了的方式都不同。签名表src/treg/domain/capacity/signatures.py把这些差异统一分类供应商余额耗尽的信号类别reAPIHTTP 402 error.code 30001 Insufficient creditsbalanceApolloHTTP 422 out of creditsbalanceMozHTTP 403{issue: insufficient-quota}balanceLusha / Hunter带 429 但含义是配额用尽伪装成限流quota带Retry-After ≤ 60s的 429真正的突发限流burstIcypeas居然是 HTTP200insufficient_credits验证错误balance对未记录的供应商 4xx系统只记录unrecorded日志、不做标记——代码永远不猜测等待人工把新供应商加入签名表。测试里还有覆盖守卫任何平台账号要么有签名表条目、要么被明确登记为已知的缺口否则 CI 直接失败。锁定后的行为调用在预留额度之前就收到类型化的provider_capacity503响应体里列出可替代的方案其他端点、或带自己的 Key审计行记录refused_bycapacity。第三步Overflow —— 备用通道接管什么是溢出路由当 treg 的直连账号耗尽同一供应商端点可以通过 treg 持有的聚合器账号Orthogonal 优先Monid 次之继续服务。这叫 overflow溢出路由它是凭证层级不是目录里的供应商不可搜索、不可 BYOK用户按聚合器的真实价格付费0 加价响应头X-Treg-Cost-Micro和X-Treg-Served-Via会披露成本与通道路由规则集中在一处src/treg/domain/capacity/routes.py聚合器价格 ÷ 直连价格 ≤ 4.0、单位匹配、7 天内验证过缺一即禁用。每周验证用真钱换信任溢出路由不是手工写的而是派生的。treg-worker overflow verify每周花真钱对每条路由做一次廉价调用通过聚合器和直连各打一发对比响应形状指纹只比结构忽略值验证通过才盖章续期7 天未验证自动衰减禁用。验证逻辑verify.py严格区分责任方——聚合器自身的问题不影响路由记录供应商在聚合器侧没余额属于对方该充值不算验证失败。预算硬闸门TREG_OVERFLOW_MODE默认是off还有shadow影子探测和on三档。开启后每次溢出调用在发网络请求之前就用原子操作检查当日聚合器预算TREG_OVERFLOW_DAILY_BUDGET_USD预估金额超出即拒绝调用结束后把预估对账为实际费用。超时、断连等不知道收没收费的情况一律保守保留预估——宁可少服务不允许多花预付费。团队还可用treg org overflow off一键退出src/treg/application/call/overflow.py。对你意味着什么对普通用户和 Agent 调用方来说这套系统的价值可以浓缩成三句话你永远不会继承 treg 的 402——平台账号耗尽时你收到的是清晰的 503 替代方案而不是一个自己修不了的余额错误突发流量被平滑而不是直接打爆——共享账号按验证过的保守速率排队进程内限速器最长等 2 秒你的批量任务少触发 429BYOK 永远不受影响——容量决策只针对平台托管的 Key你自己的凭证走独立通道从不受限。延伸阅读核心路径速查文件作用docs/context/ops/capacity.md容量系统完整设计文档含各供应商余额接口细节src/treg/domain/capacity/collectors.py各供应商免费余额采集器src/treg/domain/capacity/policy.py账号策略与最新状态纯规则src/treg/domain/capacity/sweep.pyWorker 巡检采集 → 快照 → 发布src/treg/domain/capacity/marks.py调用路径断路器strike / lock / probesrc/treg/domain/capacity/view.py数据面读取的 60 秒进程内视图src/treg/domain/capacity/signatures.py供应商错误签名分类表scripts/provider_balances.py人工对账用的余额查看脚本容量感知是 treg 作为工具版 OpenRouter最像平台运营的一环像管理自己的钱包一样管理供应商账号——先知道、再保护、最后兜底。【免费下载链接】tregOpenRouter for agent tools. Join community here: https://discord.gg/6mQYYfFMAn项目地址: https://gitcode.com/GitHub_Trending/treg/treg创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表