
这几天“DeepSeek崩了”又一次出现在微博热搜上。据微博热搜和媒体报道用户在使用时频繁遇到“服务器繁忙”网页端和 App 都有不同程度的异常。这不是第一次了2026 年 3 月 29 日晚到 30 日上午的那次中断持续超过 12 小时据称刷新了 DeepSeek 单次中断的最长纪录5 月 8 日新版预览上线当天因注册和访问量激增网页、App、API 一度全线异常5 月下旬“DeepSeek崩了”再次登上热搜当时有媒体统计年内 DeepSeek 已出现多次服务异常。对每天靠大模型写代码、做客服、跑工作流的人来说这种热搜已经不是新闻而是一个需要提前设计的外部依赖风险。一、这件事的技术本质是什么很多人把大模型服务理解成“一个网站”卡了就等一会儿其实不太一样。普通 Web 服务的扩容是相对线性的无状态的服务层加机器、加容器几分钟就能顶上。大模型的推理服务要重得多单次请求占用算力重。一次长上下文对话或一段思维链推理可能同时占住显存好几分钟请求之间不像普通接口那样轻量。算力供给是刚性的。GPU 卡不是想买就能马上到货机房、电力、网络都要跟着上所以峰值容量天生比需求曲线更“钝”。流量是脉冲式的。新版本发布、上热搜、被大 V 推荐、免费额度调整任何一个都可能瞬间带来几倍到几十倍的访问量。所以大模型服务出问题的常见形态不是“挂了”而是排队网关开始限流返回 429、503或者流式输出推到一半就断掉。3 月那次中断的报道里也提到核心功能是被“大面积限流”而不是完全不可用。再叠加一层变量版本迭代节奏。据报道9 月 9 日—13 日 DeepSeek 在新旧版本切换期间调整了 API 供给策略最终选择保留 V4 Pro 的 API 调用并下调了 V4.1 Flash 的定价。模型升级、旧模型下线、价格调整这些运营动作本身就会带来容量和调度的波动。模型能力在快速迭代但“算力供给的刚性”这个底层约束短期内没有变。二、对普通开发者意味着什么结论很朴素只要你把大模型放在关键链路上它就是一个会时不时不响应的外部服务得按外部依赖来治理而不是按“本地函数调用”来用。具体来说这几件事值得现在就做超时、重试、熔断、降级四件套一个都别省。超时要区分连接超时和整体超时重试一定要带指数退避和随机抖动不要固定 1 秒死循环。准备第二家模型。现在主流厂商基本都提供 OpenAI 兼容的POST /chat/completions接口做一层薄薄的路由并不难。流式接口要处理“半截断流”。判断有没有收到结束标记没收到就当作失败退化成非流式重试或直接给用户一个明确的提示。长任务异步化。能提交后台任务、轮询拿结果的就别让用户的前端同步挂着等超时一次就丢一次上下文。有硬可用性要求就考虑私有化。调用量上了规模、且对数据合规有要求的团队把推理服务放进自己机房里可用性边界至少是自己能控制的。三、一段可以直接抄的兜底代码下面这段是“多供应商 指数退避”的最小实现base_url和模型名以各家文档为准不要写死在代码里importos,time,random,httpx PROVIDERS[{name:primary,base:https://api.deepseek.com,key:os.getenv(LLM_KEY_A,),model:deepseek-chat},{name:fallback,base:https://api.example.com/v1,key:os.getenv(LLM_KEY_B,),model:backup-model},]defchat(prompt:str,retries:int3)-str:last_errNoneforpinPROVIDERS:# 供应商级降级foriinrange(retries):# 单供应商内重试try:rhttpx.post(f{p[base]}/chat/completions,headers{Authorization:fBearer{p[key]}},json{model:p[model],messages:[{role:user,content:prompt}]},timeouthttpx.Timeout(60.0,connect5.0),)ifr.status_code429orr.status_code500:raiseRuntimeError(f{p[name]}-{r.status_code})r.raise_for_status()returnr.json()[choices][0][message][content]exceptExceptionase:last_erre time.sleep(2**irandom.random())# 指数退避 抖动raiseRuntimeError(f所有模型均不可用:{last_err}) 配套的还有两件事**观测**和**告警**。每次调用至少记下供应商、模型、耗时、状态码和 token 用量异常比例一高就能第一时间知道是自家的问题还是对方的问题。厂商的官方状态页比如 DeepSeek 的状态页也是一个可用的信号源公开数据显示其近几个月的对话服务可用率大致在99.89%上下——换算下来一年也有小半天是异常的。## 四、写在最后服务稳定性这件事不会因为模型变聪明就自动消失。算力供给、流量脉冲、版本切换这三个因素只要还在中断就会反复发生。对开发者来说能控制的只有自己这一侧**把模型当外部依赖别当本地函数。**你会给关键业务配几家模型兜底评论区聊聊。