尧图网页设计 
Open WebUI 本地部署教程10 分钟跑起离线多模型对话界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui内网一台机器完全断网团队却想要一个能切换模型的对话界面数据还不能出内网。Open WebUI 本地部署就是干这件事的在一台装了 Docker 的机器上拉镜像得到一个能接 Ollama 和 OpenAI 兼容 API 的 Web 界面对话、文件、向量数据全部落在本地卷里。读完这篇你能在 10 分钟内跑起一个离线可用的多模型对话入口。 先分清适配动手之前先确认它能不能接住你的场景两类模型入口一类是 Ollama 本地模型服务另一类是任意 OpenAI 兼容 API——vLLM、LMStudio、OpenRouter 都只是改个 URL 的事内置 RAG上传的文档会自动分块向量化在输入框里敲#就能把文档内容拉进回答离线可用对话记录、上传文件、向量数据全部写入本地卷不经过任何第三方服务硬边界它不做模型推理。你必须自备模型服务要么是 Ollama 容器要么是一个现成的 OpenAI 兼容端点它也是单实例部署不是分布式训练平台。一句话它适合模型服务已经有了缺一个离线对话入口的场景不适合指望它顺便把模型也跑起来。 最小可跑路径最短的一条路仓库自带的 compose 文件会同时拉起 Ollama 和 Open WebUIgit clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui docker compose up -d构建完成后打开 http://localhost:3000你注册的第一个账号自动成为管理员不需要额外配置就能开始对话。三个关键文件记住就行docker-compose.yaml 管端口映射宿主机 3000 映射到容器 8080和 Ollama 连接地址backend/open_webui/config.py 汇总了OLLAMA_BASE_URL、OPENAI_API_KEY等全部环境变量想调什么先翻它超时参数AIOHTTP_CLIENT_TIMEOUT默认 300 秒定义在 backend/open_webui/env.py。compose 不适合你的环境时还有两条备选pip install open-webui后执行open-webui serve端口 8080或用内置 Ollama 的官方镜像open-webui:ollama这里不展开。 跑通一个真实任务拉一个本地模型完成第一次对话目标让模型下拉框里出现一个真实模型并流式返回回答。步骤compose 拉起的 Ollama 容器里此时还没有模型先拉一个docker compose exec ollama ollama pull llama3.2拉取完成后在页面顶部下拉框选中 llama3.2输入框敲一句「总结 Transformer 论文的三条核心思想」。应看到什么模型下拉框出现 llama3.2发送后回答逐字流式返回是 Markdown 格式、分三点的总结全程不离开内网。你有多台 Ollama 实例的话用OLLAMA_BASE_URLS以分号分隔配置多个地址它们会同时出现在同一个下拉列表里。把文档读进对话目标让模型基于你给的文档内容回答而不是凭参数记忆。步骤新建对话把一份 PDF 直接拖进输入区或者先传到左侧知识库让它向量化系统会用内置的 embedding 模型完成分块和嵌入。应看到什么输入「总结这份文档里的关键数据并列出」回答会带出文档中的具体数字并标注来源文档在输入框敲#可以按名称检索文档库网页 URL 也能拉进上下文适合做资料整理类工作流。️ 按口味定制想把默认入口换成 OpenAI 兼容 API容器启动时传入OPENAI_API_BASE_URL和OPENAI_API_KEY即可所有可调项都列在 backend/open_webui/config.py想备份或迁移对话数据记录、文件、向量数据都在open-webui卷里容器内路径/app/backend/data把卷搬到新机器就能原样恢复想改键盘快捷键定义在 src/lib/shortcuts.ts按名称找到对应项改按键想加自定义 Tools用 Python 写放在 backend/open_webui/tools/ 目录下注册看同目录下的builtin.py就知道怎么写。⚠️ 排障速查现象原因解法页面提示 Server connection error模型列表为空容器内的 localhost 不指向宿主机够不到 Ollamacompose 方式已默认处理好单独 docker run 时加--networkhost或显式设置OLLAMA_BASE_URL先跑docker compose logs open-webui看报错对话生成到一半断开默认 300 秒超时CPU 上大模型来不及调大环境变量AIOHTTP_CLIENT_TIMEOUT单位秒或换更小的模型容器重建后对话和上传文件全没了没挂数据卷数据写进了容器内部文件系统运行命令里保留-v open-webui:/app/backend/data官方说明明确要求这一步 下一步去哪翻一遍 backend/open_webui/tools/ 目录从builtin.py入手看内置工具怎么注册这是写你自己工具的最短路径再看src/components/chat/目录了解前端对话渲染的结构然后回到仓库根目录 README 的 RAG 与部署章节确认你的向量库和部署方式Docker、Kubernetes对应的开关。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Open WebUI 本地部署教程：10 分钟跑起离线多模型对话界面
Open WebUI 本地部署教程10 分钟跑起离线多模型对话界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui内网一台机器完全断网团队却想要一个能切换模型的对话界面数据还不能出内网。Open WebUI 本地部署就是干这件事的在一台装了 Docker 的机器上拉镜像得到一个能接 Ollama 和 OpenAI 兼容 API 的 Web 界面对话、文件、向量数据全部落在本地卷里。读完这篇你能在 10 分钟内跑起一个离线可用的多模型对话入口。 先分清适配动手之前先确认它能不能接住你的场景两类模型入口一类是 Ollama 本地模型服务另一类是任意 OpenAI 兼容 API——vLLM、LMStudio、OpenRouter 都只是改个 URL 的事内置 RAG上传的文档会自动分块向量化在输入框里敲#就能把文档内容拉进回答离线可用对话记录、上传文件、向量数据全部写入本地卷不经过任何第三方服务硬边界它不做模型推理。你必须自备模型服务要么是 Ollama 容器要么是一个现成的 OpenAI 兼容端点它也是单实例部署不是分布式训练平台。一句话它适合模型服务已经有了缺一个离线对话入口的场景不适合指望它顺便把模型也跑起来。 最小可跑路径最短的一条路仓库自带的 compose 文件会同时拉起 Ollama 和 Open WebUIgit clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui docker compose up -d构建完成后打开 http://localhost:3000你注册的第一个账号自动成为管理员不需要额外配置就能开始对话。三个关键文件记住就行docker-compose.yaml 管端口映射宿主机 3000 映射到容器 8080和 Ollama 连接地址backend/open_webui/config.py 汇总了OLLAMA_BASE_URL、OPENAI_API_KEY等全部环境变量想调什么先翻它超时参数AIOHTTP_CLIENT_TIMEOUT默认 300 秒定义在 backend/open_webui/env.py。compose 不适合你的环境时还有两条备选pip install open-webui后执行open-webui serve端口 8080或用内置 Ollama 的官方镜像open-webui:ollama这里不展开。 跑通一个真实任务拉一个本地模型完成第一次对话目标让模型下拉框里出现一个真实模型并流式返回回答。步骤compose 拉起的 Ollama 容器里此时还没有模型先拉一个docker compose exec ollama ollama pull llama3.2拉取完成后在页面顶部下拉框选中 llama3.2输入框敲一句「总结 Transformer 论文的三条核心思想」。应看到什么模型下拉框出现 llama3.2发送后回答逐字流式返回是 Markdown 格式、分三点的总结全程不离开内网。你有多台 Ollama 实例的话用OLLAMA_BASE_URLS以分号分隔配置多个地址它们会同时出现在同一个下拉列表里。把文档读进对话目标让模型基于你给的文档内容回答而不是凭参数记忆。步骤新建对话把一份 PDF 直接拖进输入区或者先传到左侧知识库让它向量化系统会用内置的 embedding 模型完成分块和嵌入。应看到什么输入「总结这份文档里的关键数据并列出」回答会带出文档中的具体数字并标注来源文档在输入框敲#可以按名称检索文档库网页 URL 也能拉进上下文适合做资料整理类工作流。️ 按口味定制想把默认入口换成 OpenAI 兼容 API容器启动时传入OPENAI_API_BASE_URL和OPENAI_API_KEY即可所有可调项都列在 backend/open_webui/config.py想备份或迁移对话数据记录、文件、向量数据都在open-webui卷里容器内路径/app/backend/data把卷搬到新机器就能原样恢复想改键盘快捷键定义在 src/lib/shortcuts.ts按名称找到对应项改按键想加自定义 Tools用 Python 写放在 backend/open_webui/tools/ 目录下注册看同目录下的builtin.py就知道怎么写。⚠️ 排障速查现象原因解法页面提示 Server connection error模型列表为空容器内的 localhost 不指向宿主机够不到 Ollamacompose 方式已默认处理好单独 docker run 时加--networkhost或显式设置OLLAMA_BASE_URL先跑docker compose logs open-webui看报错对话生成到一半断开默认 300 秒超时CPU 上大模型来不及调大环境变量AIOHTTP_CLIENT_TIMEOUT单位秒或换更小的模型容器重建后对话和上传文件全没了没挂数据卷数据写进了容器内部文件系统运行命令里保留-v open-webui:/app/backend/data官方说明明确要求这一步 下一步去哪翻一遍 backend/open_webui/tools/ 目录从builtin.py入手看内置工具怎么注册这是写你自己工具的最短路径再看src/components/chat/目录了解前端对话渲染的结构然后回到仓库根目录 README 的 RAG 与部署章节确认你的向量库和部署方式Docker、Kubernetes对应的开关。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考