尧图网页设计 
简介面向需要快速搭建本地 Ollama 图形化管理界面的开发者资源内含 ollama-webui-lite 项目源码并涵盖 npm 镜像、依赖安装、启动调试等配置要点适合刚完成 Ollama 安装、希望用 Web 界面管理模型的新手边装边学也可供前端开发者参考其 Svelte 与 TypeScript 工程化配置。压缩包共 48 个文件大小约 1.01MB文件类型以 Svelte 组件、TypeScript 配置和 JSON 依赖声明为主同时包含 Tailwind/PostCSS 配置、字体图标、说明文档与排错指南能较完整呈现 Web UI 的页面结构、项目依赖和启动流程。已有 765 人学习下载资源内 lib 与 routes 下的组件负责页面逻辑static 与 assets 存放字体、图标和预览图package.json、tsconfig.json、vite.config.ts 则记录依赖版本与构建配置README、TROUBLESHOOTING.md、LICENSE 补充了运行说明、常见问题与许可信息.gitignore 等则体现项目工程规范。读者借此可直接获得一套可启动的前端工程样本同时减少环境配置阻力快速进入模型交互与调试环节。1. 本地私有模型的入口先从 Ollama 和轻量 WebUI 装起把大模型装进自己的笔记本或内网服务器第一道坎往往不是模型本身而是那句ollama run之前的一堆安装问题官网下载龟速、装完不知道模型存在哪、想要一个能对话的页面又嫌 Open WebUI 太重。ollama-webui-lite 就是冲着这个痛点来的轻量方案——它把本地 11434 端口的 Ollama API 包成一个浏览器里能直接聊天的界面而 ollama 安装则决定前面这一公里顺不顺。这篇以离线部署为主线从安装器参数、镜像源到模型存储路径迁移再到把 WebUI 连上后端把常见坑一次说透。适合内网环境、个人笔记本以及想给团队快速搭私有模型入口的运维。2. Ollama 安装的三条路线与下载加速离线包、镜像源、目录迁移2.1 Windows安装器参数与把模型盘迁出系统盘Windows 上装 Ollama 最简单的是跑安装包但它默认装到 C 盘模型再往用户目录一放一个 7B 模型就是 4~5GB系统盘很快见底。我一般在命令行里直接指定安装目录Ollama 的 Windows 安装器基于 NSIS支持静默安装和目录参数ollama-setup.exe /S /DD:\ollama/S表示静默安装不弹界面/D指定安装根目录。这里有两个细节/D必须放在整条命令的最后且路径不要加引号——NSIS 对带引号的路径处理很容易翻车目录名里如果有空格先改成短路径或用 8.3 短名。装完再设置模型目录setx OLLAMA_MODELS D:\ollama\modelssetx写入的是用户级环境变量新开的终端才会生效当前窗口里ollama list可能还是读旧路径。设置完重新开会话再验证ollama --version ollama list这里有个很容易漏的动作在安装前就规划好模型盘。Ollama 的模型目录在首次启动时创建装完再迁也不是不行但你要停服务、搬文件夹、改环境变量三步全做中间任何一步断了ollama list就会找不到已有模型。安装时一步到位最省心。2.2 Linux用国内镜像加速官方安装脚本Linux 下官方推荐一条命令安装curl -fsSL https://ollama.com/install.sh | sh但你在国内或者离线内网环境这条命令大概率卡在下载阶段。这个脚本本身不大它做的事是检测系统架构然后去 GitHub 拉二进制包。清华镜像提供了 ollama 的镜像仓库可以直接改用它curl -fsSL https://mirrors.tuna.tsinghua.edu.cn/ollama/install.sh | sh镜像站同时提供 apt 仓库适合后续用系统包管理器升级。如果你更信任 deb 包的方式先下载再本地安装wget https://mirrors.tuna.tsinghua.edu.cn/ollama/apt/pool/main/o/ollama/ollama_*_amd64.deb sudo dpkg -i ollama_*.deb sudo systemctl enable --now ollamadeb 包装完会自动创建ollama系统用户、注册 systemd 服务并启动这是最省事的一条路。注意dpkg -i如果报依赖缺失用sudo apt -f install补一下。安装脚本方式则适合服务器不能动 apt 源、又想快速上手的场景脚本装完同样会注册 systemd 服务。2.3 离线二进制包内网机器最后的兜底如果内网机器连镜像站都访问不了就只能靠二进制包传进去。Ollama 的 Linux 发布包是一个 tgz 文件解压即用tar -C /usr -xzf ollama-linux-amd64.tgz ollama serve这个 tgz 解压出来是纯二进制不会注册 systemd 服务也不会创建ollama用户所以每次开机要手动起ollama serve。我一般在能上网的机器上把ollama-linux-amd64.tgz和安装器一起放进内网共享目录再用一个 systemd unit 把它包起来[Unit] DescriptionOllama Server Afternetwork-online.target [Service] ExecStart/usr/local/bin/ollama serve Userollama Groupollama Restartalways EnvironmentOLLAMA_MODELS/data/ollama/models [Install] WantedBymulti-user.target注意Userollama需要先创建系统用户或者直接Userroot偷懒——我不建议后者模型目录权限一旦放开后患不少。把 unit 文件写到/etc/systemd/system/ollama.service然后systemctl daemon-reload systemctl enable --now ollama。选路线的一个重要判断依据将来要不要升级。走 apt/deb升级是sudo apt upgrade ollama一条命令的事走 tgz升级要重新覆盖二进制并重启服务。个人使用我倾向 tgz路径完全可控生产环境我选 deb 或容器。3. ollama-webui-lite 部署两条实际路线与连线配置3.1 路线一用 Docker 把 WebUI 与 Ollama 拆成两个容器容器化是部署 webui-lite 最干净的方式Ollama 官方也提供容器镜像。常见做法是先起 Ollama 再起 WebUI两个容器放进同一个自定义网络让它们用容器名互访docker network create ollama-net docker run -d --name ollama \ --network ollama-net \ -v ollama_models:/root/.ollama/models \ -p 11434:11434 \ ollama/ollama:latest docker run -d --name ollama-webui \ --network ollama-net \ -p 3000:3000 \ -e OLLAMA_API_BASE_URLhttp://ollama:11434 \ ollama-webui-lite:latest这里镜像名ollama-webui-lite:latest需要替换成你实际拉到的 tag——不同时间公开镜像仓库的命名变化还挺大以你docker pull到的真实名为准。OLLAMA_API_BASE_URL是 webui-lite 前端连接后端的核心变量值填http://ollama:11434而不是localhost是因为容器内的 localhost 指向自己。数据卷ollama_models用于持久化模型文件容器删了模型还在。有个点容易踩Linux 上的 Docker 老版本不支持host.docker.internal所以别偷懒写宿主机地址老老实实走自定义网络。Windows 和 macOS 的 Docker Desktop 上host.docker.internal可用但跨机器部署时容器名方案更通用。3.2 路线二本地 Node 直接启动不碰容器没有 Docker 环境的机器直接用 Node 跑源码包更省资源。webui-lite 这类轻量前端本质是一个静态站点加 API 转发拿到源码包后npm install npm run dev -- --port 3000--port指定端口是因为 3000 可能已被占用。dev 模式默认只监听127.0.0.1如果你想让局域网内其他机器打开这个页面要加--host参数npm run dev -- --host --port 3000生产场景我更建议走 build 产物而不是一直挂着 dev servernpm run build把dist目录指给 Nginx 当静态站点同时把/api路径反向代理到 Ollama 的 11434。这样前端和模型服务都在本机Nginx 配置大概是server { listen 3000; root /srv/webui-lite/dist; location /api { proxy_pass http://127.0.0.1:11434; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } }proxy_pass后面的地址默认不带路径Ollama 接口是/api/chat、/api/tags这些所以location /api整段转发即可不要写proxy_pass http://127.0.0.1:11434/带尾斜杠会把/api前缀吃掉。3.3 两个服务之间的三个关键配置地址、跨域与网络模式把 WebUI 和 Ollama 连起来最常翻车的就是三个配置。一是监听地址。Ollama 默认只绑127.0.0.1:11434本地浏览器访问没问题但 WebUI 在另一台机器或容器里时就必须放开export OLLAMA_HOST0.0.0.0:11434二是跨域来源。浏览器里跑的 WebUI 页面发起/api/chat请求时Ollama 会校验Origin不设就会报 CORS 错误export OLLAMA_ORIGINShttp://localhost:3000,http://192.168.1.10:3000多个来源用逗号分隔别图省事写*——本地模型服务虽然没有敏感数据但放开跨域等于让任意网页都能调你的模型打印个日志都算轻的。三是网络模式。两个服务在宿主机上跑选 bridge 网络并-p映射端口两个都在容器里用自定义 bridge 并靠容器名互访跨机器则要保证 11434 端口在防火墙上对指定内网 IP 开放。这三个配置对应三种部署拓扑先想清楚再动手能省半小时排查时间。4. 模型库初始化存储路径、GGUF 导入与首次 GPU 对话4.1 修改模型存储路径环境变量与 systemd 两种写法模型下载安装完立刻要面对的是“模型放哪”的问题。Ollama 的模型目录由OLLAMA_MODELS控制默认在用户目录的.ollama/models下。桌面 Linux 用户在~/.bashrc里导出export OLLAMA_MODELS/data/ollama/models改完要重启ollama serve才生效。我在新机器上总是先改路径再拉模型顺序反了白下一遍 4GB 不说还得手动搬 blob 目录。用 systemd 管理的服务改路径要改 unit 文件。在/etc/systemd/system/ollama.service的[Service]段加[Service] EnvironmentOLLAMA_MODELS/data/ollama/models然后重新加载sudo systemctl daemon-reload sudo systemctl restart ollama这里有个判断技巧改完路径后ollama list显示空列表不代表失败先ls /data/ollama/models确认目录建出来了再看日志有没有报权限。把模型放在独立数据盘上还有一个好处——系统盘做快照、重装系统时模型不用重新下载。4.2 下载慢的替代方案把离线 GGUF 用 Modelfile 导入ollama pull qwen2.5:7b在带宽一般的情况下非常熬人下载中断还要从头再来。更稳的做法是从国内可访问的模型镜像站下载 GGUF 格式文件再通过 Modelfile 导入 Ollama。以 Hugging Face 镜像站为例wget https://hf-mirror.com/Qwen/Qwen2.5-7B-Instruct-GGUF/resolve/main/qwen2.5-7b-instruct-q4_k_m.gguf下载完成后写一个 ModelfileFROM ./qwen2.5-7b-instruct-q4_k_m.gguf TEMPLATE {{- if .System }}|im_start|system {{ .System }}|im_end| {{- end }}|im_start|user {{ .Prompt }}|im_end| |im_start|assistant 然后创建模型ollama create qwen2.5:7b-q4 -f ModelfileFROM指向本地 GGUF 文件这一步完全不触发在线下载TEMPLATE要按模型的对话模板写Qwen 系用 ChatML 格式Llama 系一般用{{ .Prompt }}就够了。模板写错最典型的症状是模型能答但角色不分——它分不清哪句是系统指令哪句是用户输入。另一个离线来源是同事或内网已有环境里整个models目录拷贝过来。这种“网盘包”我一般先看有没有校验值目录结构是否包含manifests和blobs两层blobs下文件名是不是一串 SHA256 哈希。没有校验值、没有目录结构的包别用——你根本不知道里面被塞了什么。4.3 第一个对话与处理器验证模型导入完成跑起来验证ollama run qwen2.5:7b-q4对话能回复只是第一步关键看跑在 CPU 还是 GPU。开另一个终端ollama ps输出里的PROCESSOR列会标GPU或CPU。如果是 GPU再用nvidia-smi看显存占用有没有涨。常见的一种“假 GPU”情况ollama ps显示 GPU但nvidia-smi里显存纹丝不动——这是驱动没问题但 CUDA 运行库版本不匹配Ollama 走了 CPU 回退。去日志确认journalctl -u ollama -f出现no compatible GPUs之类字样就是 CUDA 库或驱动版本问题。另外新手容易误判“卡死”7B 模型首次加载要几秒到十几秒加载期间终端可能没输出这是正常的。5. 安装部署避坑清单从下载卡住到段错误的现象排查坑一模型下载 99% 卡住最后报 connection reset。现象ollama pull进度条到 99% 停住等待几分钟后失败。原因默认模型仓库在海外大文件传输中途被重置。解决不要反复重拉改用 4.2 节的 GGUF 下载 ollama create导入方式下载工具支持断点续传成功率远高于反复pull。导入前对文件做个校验sha256sum qwen2.5-7b-instruct-q4_k_m.gguf和模型发布页的哈希值对得上再导入。坑二ollama serve直接段错误。现象前台运行ollama serve一两秒后进程退出日志只有Segmentation fault。原因老内核或老 glibc 与新版二进制不兼容也有可能是内存不足导致初始化崩溃。解决先确认系统版本和 glibc——ldd --version然后换成与系统匹配的旧版 Ollama 二进制内存 8G 以下的机器建议开 swap。这条经验是内存不足的玄学场合多但先看日志再换版本是万能排查顺序。坑三WebUI 页面一直转圈F12 控制台报 CORS 错误。现象浏览器里打开 3000 端口页面加载出来了但发消息后一直转圈。原因前端从http://localhost:3000发请求到http://localhost:11434跨域被 Ollama 拦了。解决设置OLLAMA_ORIGINS为你的 WebUI 访问地址比如http://localhost:3000多个地址逗号隔开然后重启 ollama 服务。有时候改完还报错是浏览器缓存了旧的 CORS 响应——无痕窗口打开一次就能分辨。坑四Docker 里 WebUI 连不上 Ollama。现象两个容器都起来了WebUI 日志里ECONNREFUSED。原因用了http://localhost:11434作为 API 地址容器内的 localhost 指向 WebUI 容器自己。解决确认两个容器在同一个自定义网络里API 地址换成http://ollama:11434。如果非要用宿主机 IPLinux 下先确认host.docker.internal在你的 Docker 版本里可用不可用就加--add-hosthost.docker.internal:host-gateway。坑五跑了一个模型系统盘突然就满了。现象模型能跑但整机磁盘可用空间骤降。原因没改OLLAMA_MODELS模型文件默认写进了系统盘的用户目录。解决迁移前先ollama list记录已装模型设置新的OLLAMA_MODELS后把.ollama/models整个目录搬到新位置再重启服务。顺序很重要先搬目录再重启不然服务会在新位置重建空目录旧目录还得手动删。如果模型还没下载直接改完路径再下载别给系统盘留机会。还有一条安全向的提醒别把 11434 端口直接暴露到公网。Ollama 的 HTTP 接口默认没有鉴权放到公网等于给别人一个免费算力接口。内网用绑内网 IP跨公网调取用 Nginx 反向代理加 API Key。Nginx 配置里通过auth_request或直接在location /里校验自定义 Header是比较常见且省事的做法。6. 把整套环境固化成可复制的离线工具包机器装完只是开始真正省事的是把这套环境固化成脚本下次换机器、扩容节点时直接跑一遍。我自己的习惯是装完手写一个setup.sh存到版本库而不是靠记忆里的命令#!/usr/bin/env bash # 内网机器一键拉起 Ollama WebUI set -euo pipefail DATA_DIR${OLLAMA_MODELS:-/data/ollama} WEBUI_PORT${WEBUI_PORT:-3000} mkdir -p $DATA_DIR/models # 1. 启动 Ollama日志落盘 export OLLAMA_MODELS$DATA_DIR/models export OLLAMA_HOST127.0.0.1:11434 nohup ollama serve $DATA_DIR/serve.log 21 sleep 3 # 2. 健康检查失败直接退出 curl -sf http://127.0.0.1:11434/api/version || { echo [ERROR] ollama 未就绪看 $DATA_DIR/serve.log exit 1 } # 3. 导入离线 GGUF如果模型未安装 if ! ollama list | grep -q qwen2.5:7b-q4; then cd $DATA_DIR ollama create qwen2.5:7b-q4 -f /srv/Modelfile.qwen2.5 fi echo [OK] 访问 http://本机IP:$WEBUI_PORT脚本里的健康检查用的是curl而非ollama list因为ollama serve刚启动时 CLI 可能还没就绪HTTP 探测更可靠。set -euo pipefail保证任何一步失败立即退出不会再出现“脚本报错但人没看见”的尴尬。装完之后的验证可以按这个顺序来先用curl确认 API 通再到 WebUI 页面走一轮真实对话最后看nvidia-smi确认显存占用和预期模型大小匹配Q4 量化 7B 大约 4~5GB。局域网里换一台机器开浏览器访问http://本机IP:3000能正常对话才算整条链路通了本地 localhost 能聊不算数。这套环境的可复制性来自两点模型目录和脚本。备份/data/ollama/models整个目录就能在另一台机器上还原Modelfile 记录了模型来源和模板参数相当于模型的“后悔药”——模型文件坏了拿 Modelfile 重新create一遍就能救回来。每台机器装完 Ollama 我都会坚持把这两件事做掉后续换模型、加机器都不是从零开始。希望帮到你。本文还有配套的精品资源点击获取 Ollama离线部署与轻量WebUI搭建：内网大模型私有化落地指南
简介面向需要快速搭建本地 Ollama 图形化管理界面的开发者资源内含 ollama-webui-lite 项目源码并涵盖 npm 镜像、依赖安装、启动调试等配置要点适合刚完成 Ollama 安装、希望用 Web 界面管理模型的新手边装边学也可供前端开发者参考其 Svelte 与 TypeScript 工程化配置。压缩包共 48 个文件大小约 1.01MB文件类型以 Svelte 组件、TypeScript 配置和 JSON 依赖声明为主同时包含 Tailwind/PostCSS 配置、字体图标、说明文档与排错指南能较完整呈现 Web UI 的页面结构、项目依赖和启动流程。已有 765 人学习下载资源内 lib 与 routes 下的组件负责页面逻辑static 与 assets 存放字体、图标和预览图package.json、tsconfig.json、vite.config.ts 则记录依赖版本与构建配置README、TROUBLESHOOTING.md、LICENSE 补充了运行说明、常见问题与许可信息.gitignore 等则体现项目工程规范。读者借此可直接获得一套可启动的前端工程样本同时减少环境配置阻力快速进入模型交互与调试环节。1. 本地私有模型的入口先从 Ollama 和轻量 WebUI 装起把大模型装进自己的笔记本或内网服务器第一道坎往往不是模型本身而是那句ollama run之前的一堆安装问题官网下载龟速、装完不知道模型存在哪、想要一个能对话的页面又嫌 Open WebUI 太重。ollama-webui-lite 就是冲着这个痛点来的轻量方案——它把本地 11434 端口的 Ollama API 包成一个浏览器里能直接聊天的界面而 ollama 安装则决定前面这一公里顺不顺。这篇以离线部署为主线从安装器参数、镜像源到模型存储路径迁移再到把 WebUI 连上后端把常见坑一次说透。适合内网环境、个人笔记本以及想给团队快速搭私有模型入口的运维。2. Ollama 安装的三条路线与下载加速离线包、镜像源、目录迁移2.1 Windows安装器参数与把模型盘迁出系统盘Windows 上装 Ollama 最简单的是跑安装包但它默认装到 C 盘模型再往用户目录一放一个 7B 模型就是 4~5GB系统盘很快见底。我一般在命令行里直接指定安装目录Ollama 的 Windows 安装器基于 NSIS支持静默安装和目录参数ollama-setup.exe /S /DD:\ollama/S表示静默安装不弹界面/D指定安装根目录。这里有两个细节/D必须放在整条命令的最后且路径不要加引号——NSIS 对带引号的路径处理很容易翻车目录名里如果有空格先改成短路径或用 8.3 短名。装完再设置模型目录setx OLLAMA_MODELS D:\ollama\modelssetx写入的是用户级环境变量新开的终端才会生效当前窗口里ollama list可能还是读旧路径。设置完重新开会话再验证ollama --version ollama list这里有个很容易漏的动作在安装前就规划好模型盘。Ollama 的模型目录在首次启动时创建装完再迁也不是不行但你要停服务、搬文件夹、改环境变量三步全做中间任何一步断了ollama list就会找不到已有模型。安装时一步到位最省心。2.2 Linux用国内镜像加速官方安装脚本Linux 下官方推荐一条命令安装curl -fsSL https://ollama.com/install.sh | sh但你在国内或者离线内网环境这条命令大概率卡在下载阶段。这个脚本本身不大它做的事是检测系统架构然后去 GitHub 拉二进制包。清华镜像提供了 ollama 的镜像仓库可以直接改用它curl -fsSL https://mirrors.tuna.tsinghua.edu.cn/ollama/install.sh | sh镜像站同时提供 apt 仓库适合后续用系统包管理器升级。如果你更信任 deb 包的方式先下载再本地安装wget https://mirrors.tuna.tsinghua.edu.cn/ollama/apt/pool/main/o/ollama/ollama_*_amd64.deb sudo dpkg -i ollama_*.deb sudo systemctl enable --now ollamadeb 包装完会自动创建ollama系统用户、注册 systemd 服务并启动这是最省事的一条路。注意dpkg -i如果报依赖缺失用sudo apt -f install补一下。安装脚本方式则适合服务器不能动 apt 源、又想快速上手的场景脚本装完同样会注册 systemd 服务。2.3 离线二进制包内网机器最后的兜底如果内网机器连镜像站都访问不了就只能靠二进制包传进去。Ollama 的 Linux 发布包是一个 tgz 文件解压即用tar -C /usr -xzf ollama-linux-amd64.tgz ollama serve这个 tgz 解压出来是纯二进制不会注册 systemd 服务也不会创建ollama用户所以每次开机要手动起ollama serve。我一般在能上网的机器上把ollama-linux-amd64.tgz和安装器一起放进内网共享目录再用一个 systemd unit 把它包起来[Unit] DescriptionOllama Server Afternetwork-online.target [Service] ExecStart/usr/local/bin/ollama serve Userollama Groupollama Restartalways EnvironmentOLLAMA_MODELS/data/ollama/models [Install] WantedBymulti-user.target注意Userollama需要先创建系统用户或者直接Userroot偷懒——我不建议后者模型目录权限一旦放开后患不少。把 unit 文件写到/etc/systemd/system/ollama.service然后systemctl daemon-reload systemctl enable --now ollama。选路线的一个重要判断依据将来要不要升级。走 apt/deb升级是sudo apt upgrade ollama一条命令的事走 tgz升级要重新覆盖二进制并重启服务。个人使用我倾向 tgz路径完全可控生产环境我选 deb 或容器。3. ollama-webui-lite 部署两条实际路线与连线配置3.1 路线一用 Docker 把 WebUI 与 Ollama 拆成两个容器容器化是部署 webui-lite 最干净的方式Ollama 官方也提供容器镜像。常见做法是先起 Ollama 再起 WebUI两个容器放进同一个自定义网络让它们用容器名互访docker network create ollama-net docker run -d --name ollama \ --network ollama-net \ -v ollama_models:/root/.ollama/models \ -p 11434:11434 \ ollama/ollama:latest docker run -d --name ollama-webui \ --network ollama-net \ -p 3000:3000 \ -e OLLAMA_API_BASE_URLhttp://ollama:11434 \ ollama-webui-lite:latest这里镜像名ollama-webui-lite:latest需要替换成你实际拉到的 tag——不同时间公开镜像仓库的命名变化还挺大以你docker pull到的真实名为准。OLLAMA_API_BASE_URL是 webui-lite 前端连接后端的核心变量值填http://ollama:11434而不是localhost是因为容器内的 localhost 指向自己。数据卷ollama_models用于持久化模型文件容器删了模型还在。有个点容易踩Linux 上的 Docker 老版本不支持host.docker.internal所以别偷懒写宿主机地址老老实实走自定义网络。Windows 和 macOS 的 Docker Desktop 上host.docker.internal可用但跨机器部署时容器名方案更通用。3.2 路线二本地 Node 直接启动不碰容器没有 Docker 环境的机器直接用 Node 跑源码包更省资源。webui-lite 这类轻量前端本质是一个静态站点加 API 转发拿到源码包后npm install npm run dev -- --port 3000--port指定端口是因为 3000 可能已被占用。dev 模式默认只监听127.0.0.1如果你想让局域网内其他机器打开这个页面要加--host参数npm run dev -- --host --port 3000生产场景我更建议走 build 产物而不是一直挂着 dev servernpm run build把dist目录指给 Nginx 当静态站点同时把/api路径反向代理到 Ollama 的 11434。这样前端和模型服务都在本机Nginx 配置大概是server { listen 3000; root /srv/webui-lite/dist; location /api { proxy_pass http://127.0.0.1:11434; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } }proxy_pass后面的地址默认不带路径Ollama 接口是/api/chat、/api/tags这些所以location /api整段转发即可不要写proxy_pass http://127.0.0.1:11434/带尾斜杠会把/api前缀吃掉。3.3 两个服务之间的三个关键配置地址、跨域与网络模式把 WebUI 和 Ollama 连起来最常翻车的就是三个配置。一是监听地址。Ollama 默认只绑127.0.0.1:11434本地浏览器访问没问题但 WebUI 在另一台机器或容器里时就必须放开export OLLAMA_HOST0.0.0.0:11434二是跨域来源。浏览器里跑的 WebUI 页面发起/api/chat请求时Ollama 会校验Origin不设就会报 CORS 错误export OLLAMA_ORIGINShttp://localhost:3000,http://192.168.1.10:3000多个来源用逗号分隔别图省事写*——本地模型服务虽然没有敏感数据但放开跨域等于让任意网页都能调你的模型打印个日志都算轻的。三是网络模式。两个服务在宿主机上跑选 bridge 网络并-p映射端口两个都在容器里用自定义 bridge 并靠容器名互访跨机器则要保证 11434 端口在防火墙上对指定内网 IP 开放。这三个配置对应三种部署拓扑先想清楚再动手能省半小时排查时间。4. 模型库初始化存储路径、GGUF 导入与首次 GPU 对话4.1 修改模型存储路径环境变量与 systemd 两种写法模型下载安装完立刻要面对的是“模型放哪”的问题。Ollama 的模型目录由OLLAMA_MODELS控制默认在用户目录的.ollama/models下。桌面 Linux 用户在~/.bashrc里导出export OLLAMA_MODELS/data/ollama/models改完要重启ollama serve才生效。我在新机器上总是先改路径再拉模型顺序反了白下一遍 4GB 不说还得手动搬 blob 目录。用 systemd 管理的服务改路径要改 unit 文件。在/etc/systemd/system/ollama.service的[Service]段加[Service] EnvironmentOLLAMA_MODELS/data/ollama/models然后重新加载sudo systemctl daemon-reload sudo systemctl restart ollama这里有个判断技巧改完路径后ollama list显示空列表不代表失败先ls /data/ollama/models确认目录建出来了再看日志有没有报权限。把模型放在独立数据盘上还有一个好处——系统盘做快照、重装系统时模型不用重新下载。4.2 下载慢的替代方案把离线 GGUF 用 Modelfile 导入ollama pull qwen2.5:7b在带宽一般的情况下非常熬人下载中断还要从头再来。更稳的做法是从国内可访问的模型镜像站下载 GGUF 格式文件再通过 Modelfile 导入 Ollama。以 Hugging Face 镜像站为例wget https://hf-mirror.com/Qwen/Qwen2.5-7B-Instruct-GGUF/resolve/main/qwen2.5-7b-instruct-q4_k_m.gguf下载完成后写一个 ModelfileFROM ./qwen2.5-7b-instruct-q4_k_m.gguf TEMPLATE {{- if .System }}|im_start|system {{ .System }}|im_end| {{- end }}|im_start|user {{ .Prompt }}|im_end| |im_start|assistant 然后创建模型ollama create qwen2.5:7b-q4 -f ModelfileFROM指向本地 GGUF 文件这一步完全不触发在线下载TEMPLATE要按模型的对话模板写Qwen 系用 ChatML 格式Llama 系一般用{{ .Prompt }}就够了。模板写错最典型的症状是模型能答但角色不分——它分不清哪句是系统指令哪句是用户输入。另一个离线来源是同事或内网已有环境里整个models目录拷贝过来。这种“网盘包”我一般先看有没有校验值目录结构是否包含manifests和blobs两层blobs下文件名是不是一串 SHA256 哈希。没有校验值、没有目录结构的包别用——你根本不知道里面被塞了什么。4.3 第一个对话与处理器验证模型导入完成跑起来验证ollama run qwen2.5:7b-q4对话能回复只是第一步关键看跑在 CPU 还是 GPU。开另一个终端ollama ps输出里的PROCESSOR列会标GPU或CPU。如果是 GPU再用nvidia-smi看显存占用有没有涨。常见的一种“假 GPU”情况ollama ps显示 GPU但nvidia-smi里显存纹丝不动——这是驱动没问题但 CUDA 运行库版本不匹配Ollama 走了 CPU 回退。去日志确认journalctl -u ollama -f出现no compatible GPUs之类字样就是 CUDA 库或驱动版本问题。另外新手容易误判“卡死”7B 模型首次加载要几秒到十几秒加载期间终端可能没输出这是正常的。5. 安装部署避坑清单从下载卡住到段错误的现象排查坑一模型下载 99% 卡住最后报 connection reset。现象ollama pull进度条到 99% 停住等待几分钟后失败。原因默认模型仓库在海外大文件传输中途被重置。解决不要反复重拉改用 4.2 节的 GGUF 下载 ollama create导入方式下载工具支持断点续传成功率远高于反复pull。导入前对文件做个校验sha256sum qwen2.5-7b-instruct-q4_k_m.gguf和模型发布页的哈希值对得上再导入。坑二ollama serve直接段错误。现象前台运行ollama serve一两秒后进程退出日志只有Segmentation fault。原因老内核或老 glibc 与新版二进制不兼容也有可能是内存不足导致初始化崩溃。解决先确认系统版本和 glibc——ldd --version然后换成与系统匹配的旧版 Ollama 二进制内存 8G 以下的机器建议开 swap。这条经验是内存不足的玄学场合多但先看日志再换版本是万能排查顺序。坑三WebUI 页面一直转圈F12 控制台报 CORS 错误。现象浏览器里打开 3000 端口页面加载出来了但发消息后一直转圈。原因前端从http://localhost:3000发请求到http://localhost:11434跨域被 Ollama 拦了。解决设置OLLAMA_ORIGINS为你的 WebUI 访问地址比如http://localhost:3000多个地址逗号隔开然后重启 ollama 服务。有时候改完还报错是浏览器缓存了旧的 CORS 响应——无痕窗口打开一次就能分辨。坑四Docker 里 WebUI 连不上 Ollama。现象两个容器都起来了WebUI 日志里ECONNREFUSED。原因用了http://localhost:11434作为 API 地址容器内的 localhost 指向 WebUI 容器自己。解决确认两个容器在同一个自定义网络里API 地址换成http://ollama:11434。如果非要用宿主机 IPLinux 下先确认host.docker.internal在你的 Docker 版本里可用不可用就加--add-hosthost.docker.internal:host-gateway。坑五跑了一个模型系统盘突然就满了。现象模型能跑但整机磁盘可用空间骤降。原因没改OLLAMA_MODELS模型文件默认写进了系统盘的用户目录。解决迁移前先ollama list记录已装模型设置新的OLLAMA_MODELS后把.ollama/models整个目录搬到新位置再重启服务。顺序很重要先搬目录再重启不然服务会在新位置重建空目录旧目录还得手动删。如果模型还没下载直接改完路径再下载别给系统盘留机会。还有一条安全向的提醒别把 11434 端口直接暴露到公网。Ollama 的 HTTP 接口默认没有鉴权放到公网等于给别人一个免费算力接口。内网用绑内网 IP跨公网调取用 Nginx 反向代理加 API Key。Nginx 配置里通过auth_request或直接在location /里校验自定义 Header是比较常见且省事的做法。6. 把整套环境固化成可复制的离线工具包机器装完只是开始真正省事的是把这套环境固化成脚本下次换机器、扩容节点时直接跑一遍。我自己的习惯是装完手写一个setup.sh存到版本库而不是靠记忆里的命令#!/usr/bin/env bash # 内网机器一键拉起 Ollama WebUI set -euo pipefail DATA_DIR${OLLAMA_MODELS:-/data/ollama} WEBUI_PORT${WEBUI_PORT:-3000} mkdir -p $DATA_DIR/models # 1. 启动 Ollama日志落盘 export OLLAMA_MODELS$DATA_DIR/models export OLLAMA_HOST127.0.0.1:11434 nohup ollama serve $DATA_DIR/serve.log 21 sleep 3 # 2. 健康检查失败直接退出 curl -sf http://127.0.0.1:11434/api/version || { echo [ERROR] ollama 未就绪看 $DATA_DIR/serve.log exit 1 } # 3. 导入离线 GGUF如果模型未安装 if ! ollama list | grep -q qwen2.5:7b-q4; then cd $DATA_DIR ollama create qwen2.5:7b-q4 -f /srv/Modelfile.qwen2.5 fi echo [OK] 访问 http://本机IP:$WEBUI_PORT脚本里的健康检查用的是curl而非ollama list因为ollama serve刚启动时 CLI 可能还没就绪HTTP 探测更可靠。set -euo pipefail保证任何一步失败立即退出不会再出现“脚本报错但人没看见”的尴尬。装完之后的验证可以按这个顺序来先用curl确认 API 通再到 WebUI 页面走一轮真实对话最后看nvidia-smi确认显存占用和预期模型大小匹配Q4 量化 7B 大约 4~5GB。局域网里换一台机器开浏览器访问http://本机IP:3000能正常对话才算整条链路通了本地 localhost 能聊不算数。这套环境的可复制性来自两点模型目录和脚本。备份/data/ollama/models整个目录就能在另一台机器上还原Modelfile 记录了模型来源和模板参数相当于模型的“后悔药”——模型文件坏了拿 Modelfile 重新create一遍就能救回来。每台机器装完 Ollama 我都会坚持把这两件事做掉后续换模型、加机器都不是从零开始。希望帮到你。本文还有配套的精品资源点击获取