1. 为什么你的 Langchain-Chatchat 一改配置就报错Langchain-Chatchat 是一个把本地知识库、大模型对话、Agent 工具调用打包在一起的轻量框架适合想在自己机器或内网跑一套问答系统的开发者。它最大的特点是“多平台混用”——你完全可以让 ollama 跑嵌入模型同时让远程 API 跑对话模型。但这也正是配置最容易翻车的地方model_settings.yaml和server_config里任何一个字段没对齐启动时就是 401、连接超时、模型未找到三连击。我自己在把 ollama 本地模型和远程 API 混着用的时候最头疼的不是代码写不出来而是配置漂移。今天改完api_base_url能跑明天换个模型又忘了改model_name报错信息还特别含糊。后来我把所有远程模型的凭据收敛到一个统一入口本地只留 ollama配置文件的改动量直接砍掉一半。这篇就按“先拆配置、再给可复制片段、最后逐条排错”的顺序把model_config与server_config的每一项讲透。核心检索词先摆出来Langchain-Chatchat 配置文件怎么改、ollama 与远程 API 混用时 base_url/api_key/model_name 怎么对齐、401 和模型未找到怎么定位。适合已经跑通基础部署、准备做精细化调试的人。下面所有命令和片段都可以直接复制路径按libs/chatchat-server为根来写。2. TaoToken 统一 Key 接入把多模型凭据收进一个通道在讲配置文件之前先说清楚为什么要引入统一 Key。Langchain-Chatchat 支持openai、oneapi、custom openai等多个平台每个平台都有自己的api_base_url和api_key。如果你同时用三四个远程模型model_settings.yaml里就会散落三四个 Key改一个忘一个排查 401 的时候根本不知道是哪个 Key 失效了。TaoToken 在这里扮演的是“统一 API 通道”的角色你只需要在它那边生成一个 Key然后在 Langchain-Chatchat 里把远程模型统一指向同一个api_base_url用同一个api_key靠model_name区分具体调哪个模型。这样配置文件里远程部分只有一组凭据本地 ollama 部分保持不动配置漂移的概率大幅下降。具体操作路径是这样的先到模型对话页面确认你要用的模型 ID 长什么样再到 API Keys 页面生成一个 Key然后到接入文档页面核对 Base URL 的写法。这三个入口分别是模型对话https://taotoken.net/api?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteAPI Keyshttps://taotoken.net/api-keys?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewrite接入文档https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewrite如果你后面要长期跑编码类 Agent可以顺带看下 Coding Planhttps://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewrite拿到 Key 之后记住三个值Base URL 用https://taotoken.net/api注意这里不加 UTM是纯接口地址Key 用你生成的那串Model ID 用模型对话页面里显示的完整名称。这三个值就是后面配置文件里远程部分的全部凭据。注意不要把本地 ollama 的api_base_url和远程 API 的api_base_url写成同一个。ollama 是http://127.0.0.1:11434/v1远程是https://taotoken.net/api两者在model_settings.yaml里是分开的条目。3. model_settings.yaml 与 server_config 逐项拆解可复制片段这一节是全文的技术核心。Langchain-Chatchat 的模型配置集中在model_settings.yaml服务配置在server_config通常通过环境变量或chatchat/cli.py的参数控制。我们先看模型配置。打开libs/chatchat-server/chatchat/settings/model_settings.yaml你会看到平台列表# 可选值[xinference, ollama, oneapi, fastchat, openai, custom openai]这里的关键认知是Langchain-Chatchat 会默认自动加载所有平台你可以混用。所以配置的重点不是“选哪个平台”而是“每个模型条目里的 base_url、api_key、model_name 是否自洽”。先看 ollama 本地模型的配置片段。假设你已经拉好了模型ollama pull qwen2.5:7b ollama pull smartcreation/bge-large-zh-v1.5对应的model_settings.yaml片段DEFAULT_LLM_MODEL: qwen2.5:7b DEFAULT_EMBEDDING_MODEL: smartcreation/bge-large-zh-v1.5 SUPPORT_AGENT_MODELS: - qwen2.5:7b MODEL_PLATFORMS: - platform_name: ollama platform_type: ollama api_base_url: http://127.0.0.1:11434/v1 api_key: ollama llm_models: - qwen2.5:7b embed_models: - smartcreation/bge-large-zh-v1.5这里有两个坑必须点出来。第一smartcreation/前缀一定要带上否则嵌入模型加载时会报“模型未找到”。第二api_key对 ollama 来说随便填但字段不能缺缺了某些版本会直接抛 401。再看远程 API 的配置片段这里用统一 Key 的写法- platform_name: taotoken platform_type: openai api_base_url: https://taotoken.net/api api_key: sk-你的统一Key llm_models: - 你的远程模型ID注意platform_type写openai因为 TaoToken 的接口是 OpenAI 兼容格式。api_base_url结尾不要多加/v1接入文档里写的是什么就写什么多一层少一层都会导致 404 或连接超时。然后是server_config部分。Langchain-Chatchat 的服务配置主要通过环境变量控制常用的有export CHATCHAT_ROOT/your/path/chatchat_data/ export CHATCHAT_SERVER_HOST0.0.0.0 export CHATCHAT_SERVER_PORT7861如果你要让局域网内其他机器访问CHATCHAT_SERVER_HOST必须是0.0.0.0不能是127.0.0.1。这一点和 ollama 的局域网开放是两回事两个都要开。ollama 的局域网开放Linux 下改 service 文件sudo systemctl stop ollama sudo vim /etc/systemd/system/ollama.service # 在 [Service] 段添加 EnvironmentOLLAMA_HOST0.0.0.0:11434 sudo systemctl daemon-reload sudo systemctl start ollama sudo systemctl enable ollamaWindows 下设置环境变量OLLAMA_HOST0.0.0.0:11434后重启 ollama 服务。验证是否开放# windows netstat -aon|findstr 11434 # linux netstat -aon|grep 11434看到0.0.0.0:11434才算开放成功如果是127.0.0.1:11434就说明只监听了本地。4. 验证请求从启动到拿到第一个成功响应配置改完不能直接信必须逐层验证。我习惯按“ollama 通不通 → 远程 API 通不通 → Langchain-Chatchat 能不能同时调”三步走。第一步单独验证 ollamacurl http://127.0.0.1:11434/v1/models返回 JSON 里能看到qwen2.5:7b和smartcreation/bge-large-zh-v1.5就说明本地模型没问题。如果这里就报连接拒绝先回去检查 ollama 服务有没有起来。第二步单独验证远程 API。用 curl 直接打 TaoToken 的接口curl https://taotoken.net/api/chat/completions \ -H Authorization: Bearer sk-你的统一Key \ -H Content-Type: application/json \ -d { model: 你的远程模型ID, messages: [{role: user, content: 你好}], stream: false }能返回正常内容说明 Key、Base URL、Model ID 三者对齐了。这一步是排 401 最快的方法比在框架里猜要高效得多。第三步启动 Langchain-Chatchat 并测试混合调用export CHATCHAT_ROOT/your/path/chatchat_data/ cd libs/chatchat-server python chatchat/cli.py start -a-a表示同时启用 webui 和 api。启动后先用 webui 发一条消息确认默认 LLM 能回。然后写个脚本测远程模型import requests base_url http://192.168.1.253:7861/chat data { model: 你的远程模型ID, messages: [{role: user, content: 用一句话介绍你自己}], stream: True, temperature: 0.7, } response requests.post(f{base_url}/chat/completions, jsondata, streamTrue) for line in response.iter_content(None, decode_unicodeTrue): print(line)如果本地模型和远程模型都能各自返回说明混用配置成功。这时候你再去model_settings.yaml里切换DEFAULT_LLM_MODEL就能在本地和远程之间自由切换而不用改任何凭据。5. 常见报错定位401、连接超时、模型未找到这一节按真实报错来对。第一个高频错误是 401Error raised by inference API HTTP code: 401, {error:invalid api key}定位路径先确认报错的是哪个平台。如果是 ollama检查api_key字段是不是空的ollama 虽然不校验 Key但字段缺失会触发 401。如果是远程 API用第 4 节的 curl 单独测确认 Key 有没有复制错、有没有多余空格。统一 Key 的好处在这里体现得很明显——只有一个 Key 要查不用在多个平台之间来回切换。第二个高频错误是连接超时Error raised by inference API HTTP code: 500, {error:connection timeout}或者更直接的local proxy failed。这类错误九成是api_base_url写错了。检查清单ollama 是不是http://127.0.0.1:11434/v1远程是不是https://taotoken.net/api结尾有没有多加/v1或/chat/completions。另外如果你在容器里跑 Langchain-Chatchat127.0.0.1指向的是容器本身要用宿主机的局域网 IP。第三个高频错误是模型未找到Error raised by inference API HTTP code: 500, {error:model not found}这个错误在 ollama 场景下最常见的原因是嵌入模型少了smartcreation/前缀。bge-large-zh-v1.5和smartcreation/bge-large-zh-v1.5在 ollama 里是两个不同的名字写错了就找不到。远程模型则是model_name和模型对话页面显示的 ID 不一致复制的时候注意大小写和连字符。还有一个容易被忽略的报错出现在知识库加载时ERROR | chatchat.init_database:worker:61 - Error raised by inference API HTTP code: 500, {error:the input length exceeds the context length}这是分片参数太大导致的。找到初始化生成的kb_settings.yaml把chunk_size改成 400chunk_overlap改成 50chunk_size: 400 chunk_overlap: 50改完重新执行chatchat kb -r重建知识库即可。这个参数没有万能值文档越长、嵌入模型上下文越小chunk_size就要越小。如果你在配置过程中遇到 OAuth 相关的报错通常是platform_type写成了需要 OAuth 的类型但实际用的是 OpenAI 兼容接口。把platform_type改成openai或custom openai就能绕过。6. 把配置收敛成一份可维护的模板调试到最后真正省时间的不是记住每个报错而是把配置收敛成一份模板。我的做法是model_settings.yaml里 ollama 部分固定不动远程部分只保留一个taotoken平台条目所有远程模型都挂在它的llm_models下面。这样新增一个模型只需要在列表里加一行model_name不用碰api_base_url和api_key。如果你要长期跑编码类任务可以把 Coding Plan 的模型也挂进同一个平台条目凭据还是那一组。需要看模型清单就去模型对话页面需要重新生成 Key 就去 API Keys 页面需要核对 Base URL 写法就去接入文档页面。三个入口固定下来配置漂移基本就消失了。最后留一个实用技巧每次改完model_settings.yaml先别急着启动整个服务用第 4 节的 curl 单独测一遍远程接口。这一步花三十秒能省掉后面十分钟的日志翻找。配置文件的调试本质上就是让 base_url、api_key、model_name 三个值在每个条目里自洽自洽了401 和模型未找到自然就没了。