很多代理项目的一个误区是协议互转——把 OpenAI 的请求格式转成 Anthropic 的反之亦然。这在实际使用中极其脆弱字段映射永远滞后于官方 API 的更新工具调用Function Calling、系统提示等高级特性很难对齐流式响应的 SSE 格式差异巨大我们的做法更简单也更可靠分别暴露两套原生端点。端点 协议 用途POST /v1/chat/completions OpenAI Copilot 客户端或任何 OpenAI SDKPOST /v1/messages Anthropic Claude Code、Claude Desktop 等GET /v1/models OpenAI 列出可用模型含 AutoCopilot请求到达后代理只做三件事校验 API Key根据模型名找到对应的 Provider 和 Key用 HttpCompletionOption.ResponseHeadersRead 直接透传流式响应没有格式转换没有中间缓冲延迟几乎为零。// ProxyService.cs 核心片段var requestMessage CreateProxyRequest(context, provider, actualModel);var response await _httpClient.SendAsync(requestMessage,HttpCompletionOption.ResponseHeadersRead, // 关键不缓冲响应体cancellationToken);// 直接 pipe SSE 流await response.Content.CopyToAsync(context.Response.Body);2. AutoCopilot 影子模型这是项目最具特色的设计。传统代理需要在客户端指定确切的模型名比如 gpt-4o 或 claude-3-5-sonnet。但 Copilot 客户端通常不会暴露模型选择或者你希望在不修改客户端配置的情况下动态切换底层模型。AutoCopilot 是一个虚拟模型名。你可以在管理后台随时把它绑定到任意一个已配置的模型{“autoCopilot”: {“currentModel”: “claude-3-5-sonnet”,“currentProvider”: “anthropic”}}切换即时生效无需重启服务。所有请求 model: “AutoCopilot” 的调用都会被透明转发到当前绑定的真实模型。这在实际工作中非常有用早上用 gpt-5.5 写代码随时切到 deepseekv4-flash 写文档某个模型临时故障秒级切换到备用模型A/B 测试不同模型在相同提示下的表现3. 请求级指标监控BYOK 的一个核心诉求是成本可控。如果只是转发请求你根本不知道这个月花了多少钱、哪个模型最费 token、响应慢不慢。我们在代理层拦截了每一次请求记录了 14 个字段的详细指标指标 说明timestamp 请求时间requested_model 客户端请求的模型名actual_model 实际转发的模型名provider openai / anthropicprotocol chat.completions / messagesis_streaming 是否流式prompt_tokens 输入 token 数completion_tokens 输出 token 数latency_ms 首字节延迟TTFTtotal_duration_ms 总耗时tokens_per_second 生成速度is_cache_hit 是否命中缓存status_code HTTP 状态码error 错误信息基于这些数据管理后台提供了概览卡片总请求数、成功率、总 token、预估成本趋势图表请求量、token 消耗、延迟分布、模型占比基于 Chart.js请求日志可筛选、可分页、可导出 CSV成本估算是内置的——我们在代码中维护了一张各模型的价格表根据 prompt_tokens 和 completion_tokens 自动计算。虽然不是 100% 精确不含缓存折扣等但足够做用量预警。关键实现细节流式响应的零拷贝转发对于 SSE 流式响应很多初学者会犯一个错误把响应完整读进内存字符串再逐行 WriteAsync。这在高并发下既耗内存又增加延迟。正确的做法是让 HTTP 管道直接对接// 流式路径if (isStreaming){await response.Content.CopyToAsync(originalResponse.Body);}CopyToAsync 内部使用缓冲区循环读写数据从 Provider 的 TCP 连接直接流向客户端不经过完整的字符串解析。我们在旁边再开一个任务读取同样的流来解析 usage 数据互不阻塞。配置热重载代理服务理论上要 7×24 运行重启来加载新配置是不可接受的。ConfigService 使用了一个简单的原子替换模式private AppConfiguration _config new();private readonly ReaderWriterLockSlim _lock new();public void UpdateConfiguration(AppConfiguration config){_lock.EnterWriteLock();try{_config config; // 引用替换瞬间完成PersistToSqlite(config);}finally{_lock.ExitWriteLock();}}读配置用读锁更新配置用写锁保证并发安全的同时切换是毫秒级的。JSON 到 SQLite 的平滑迁移项目早期使用 JSON 文件存储配置Data/models.json。随着功能增加配置和指标需要更结构化的查询能力我们迁移到了 SQLite。但在 Program.cs 启动时会检查是否存在旧的 JSON 文件if (File.Exists(configPath)){MigrateJsonToSqlite(configPath, configService);File.Move(configPath, configPath “.backup”, overwrite: true);}适用场景与局限性适合用个人开发者已有 OpenAI/Anthropic 额度想把 Copilot 客户端接过来小团队统一管理模型访问和用量避免每个人自己存 API Key模型评测快速切换不同模型在相同代码库上对比效果不适合用需要多轮对话状态管理的场景本项目是无状态代理需要请求内容审查/过滤的企业环境本项目不做内容安全扫描超高并发生产环境SQLite 单文件在极高写入下会瓶颈总结copilot-auto-byok 的定位非常明确不做太多把 BYOK 代理这件事做到极致。它没有复杂的协议转换没有沉重的依赖没有需要编译的前端框架。有的只是双协议原生代理一个可以随时切换的影子模型详尽的请求级指标如果你也在寻找一种方式让 Copilot 客户端用你自己的 API Key同时还想看清每一分钱花在哪里——这个项目值得一试。GitHub: copilot-auto-byok技术栈: .NET 10 · ASP.NET Core · EF Core · SQLite · Chart.js项目展示index