ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

agents-cli 成本监控:per-tool Span 统计发现「话痨工具」消耗异常

agents-cli 成本监控:per-tool Span 统计发现「话痨工具」消耗异常 agents-cli 成本监控per-tool Span 统计发现「话痨工具」消耗异常【免费下载链接】agents-cliThe CLI and skills that turn any coding assistant into an expert at creating, evaluating, and deploying AI agents on Google Cloud.项目地址: https://gitcode.com/GitHub_Trending/ag/agents-cliAI Agent 的 Token 成本监控一直是让开发者头疼的问题。用agents-cli脚手架创建的项目自带 OpenTelemetry 埋点每一次 LLM 调用、每一次工具执行都会生成独立的Span在 Cloud Trace 中可查可分析配合 BigQuery Agent Analytics 插件几条 SQL 就能定位「话痨工具」的消耗异常帮你把成本账单看得明明白白。 为什么需要 per-tool 的 Span 级成本监控一个 Agent 通常由 LLM 推理 多个工具数据库查询、API 调用、RAG 检索等协作完成。成本往往不是均匀分布的某个工具反复被调用每次调用都塞入超长上下文Token 消耗爆炸某个工具返回结果过大把整页 HTML 或大 JSON 直接回传给模型Prompt Token 持续膨胀Agent 陷入重试循环某个工具频繁报错后反复重试账单悄悄翻倍。如果只看「总 Token 数」这类粗粒度指标这些异常全部被平均掉了。per-tool 粒度的 Span 统计正是把这些隐藏消耗揪出来的关键。 agents-cli 如何采集工具级遥测数据每个agents-cli项目都开箱即用地内置了 OpenTelemetry 插桩无需手写埋点代码环境Cloud Trace SpanPrompt-Response 日志GCS/BigQuery本地agents-cli playground✅ 自动开启不含消息内容❌ 关闭Terraform 部署环境✅ 自动开启✅ 全量 Prompt/Response 落库一次用户请求进来后Span 树会清晰呈现「LLM 调用 → 工具执行 → 再次 LLM 调用」的完整链路每个 Span 都带有时长、错误状态和 GenAI 语义约定属性模型名、Token 用量等。相关机制详见 docs/src/guide/observability/index.md 与 docs/src/guide/observability/cloud-trace.md。 三步快速上手在 Cloud Trace 里验证 Span 流部署并制造流量执行agents-cli deploy后向 Agent 发几个真实请求打开 Trace Explorer在 Google Cloud Console 进入Trace → Trace explorer你会看到每个请求一条 TraceSpan 中分别标记 LLM 调用与工具执行观察异常形态找出耗时最长、调用次数最多的 Span即可初步锁定嫌疑工具。无需任何配置本地agents-cli playground与所有部署环境都自动生效。 用 BigQuery SQL 揪出「话痨工具」Cloud Trace 适合交互式排查规模化成本监控则推荐 BigQuery Agent Analytics 插件——在创建项目时加上--bq-analytics参数即可开启仅 ADK 模板支持agents-cli create my-agent -a adk -d cloud_run --bq-analytics插件会把每次工具完成TOOL_COMPLETED、工具报错TOOL_ERROR以及每次 LLM 响应LLM_RESPONSE含 Token 用量写入 BigQuery 的agent_events表。想知道哪个工具最「费话」聚合一下就行SELECT JSON_VALUE(content, $.tool) AS tool_name, COUNT(*) AS call_count, COUNTIF(event_type TOOL_ERROR) AS error_count FROM YOUR_PROJECT.YOUR_AGENT_telemetry.agent_events WHERE event_type IN (TOOL_COMPLETED, TOOL_ERROR) GROUP BY 1 ORDER BY call_count DESC;再按模型维度统计 Token 消耗完整示例见 docs/src/guide/observability/bq-agent-analytics.mdTOOL_COMPLETED次数远超预期→ 工具被 Agent 高频调用检查提示词是否诱导了多余调用TOOL_ERROR占比高→ 报错重试循环先修工具稳定性省下的就是钱该工具活跃时间段的 Prompt Token 明显偏高→ 工具返回内容过大加上摘要或截断逻辑。⚠️ 「话痨工具」异常排查清单异常信号典型原因处置建议单工具调用量突增提示词诱导、循环调用收紧系统提示加调用次数上限工具返回体积巨大整页抓取 / 大 JSON 直传返回前做摘要、分页、截断错误率 5% 伴随 Token 上涨失败后盲目重试加退避策略与熔断某模型 Completion Token 异常模型输出过于啰嗦换更小的模型或限制输出长度 延伸阅读与关键路径可观测性总览docs/src/guide/observability/index.mdCloud Trace 验证与配置参考docs/src/guide/observability/cloud-trace.mdBigQuery 分析插件与示例查询docs/src/guide/observability/bq-agent-analytics.md内置可观测性技能供编码助手使用skills/google-agents-cli-observability/SKILL.mdPrompt-Response 日志的 Terraform 定义src/google/agents/cli/scaffold/base_templates/python/deployment/terraform/single-project/telemetry.tf小结agents-cli 把 OpenTelemetry 遥测做成了项目的默认能力——Span 自动记录每次工具执行BigQuery 插件让成本分析变成一条 SQL 的事。用 per-tool 的视角盯住「话痨工具」你的 Agent 成本账单再也不会出现无法解释的毛刺。【免费下载链接】agents-cliThe CLI and skills that turn any coding assistant into an expert at creating, evaluating, and deploying AI agents on Google Cloud.项目地址: https://gitcode.com/GitHub_Trending/ag/agents-cli创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表