适用系统Windows 10 / Windows 11 预计耗时10–20 分钟取决于网速和模型大小 难度零门槛全程鼠标复制粘贴即可第一步安装 Ollama 本体1.1 下载安装包打开浏览器访问官方下载页面Download Ollama on Windows点击Download for Windows按钮会下载一个OllamaSetup.exe文件约 700MB。1.2 运行安装程序双击OllamaSetup.exe一路点Next → Install → Finish不需要任何特殊配置。安装完成后Ollama 会在后台启动一个托盘图标任务栏右下角的羊驼图标 。你可以右键它查看状态或退出。1.3 验证安装按Win R输入cmd回车打开命令提示符输入ollama --version如果显示版本号如ollama version 0.14.x说明安装成功。第二步拉取并运行第一个模型2.1 选一个模型在命令行里输入以下任意一条命令模型大小适合ollama run llama3.2Llama 3.2 (3B)~2GB轻量对话低配首选ollama run qwen2.5:7b通义千问 2.5 (7B)~4.4GB中文能力强推荐ollama run deepseek-r1:8bDeepSeek-R1 (8B)~4.9GB深度推理ollama run llama3.2:1bLlama 3.2 (1B)~600MB极轻量老爷机也能跑如果你是中文用户推荐第一条跑qwen2.5:7b中文效果最好。2.2 运行ollama run qwen2.5:7b首次运行会自动下载模型3–5 分钟下载完直接进入聊天界面 你好请自我介绍一下你就可以和本地的 AI 对话了输入/bye退出。第三步进阶——让其他程序也能调用它Ollama 默认已经在后台启动了 API 服务监听http://localhost:11434。3.1 快速验证 API 是否正常在命令行输入curl http://localhost:11434/api/tags如果返回一串 JSON 数据你安装的模型列表说明 API 已经在工作了。3.2 搭配图形界面推荐 Open WebUI纯命令行聊天不够爽装个网页版 ChatGPT 界面docker run -d -p 3000:8080 --name open-webui -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main需要先安装 Docker Desktop地址Docker Desktop: The #1 Containerization Tool for Developers | Docker装完后浏览器打开http://localhost:3000注册一个本地账号就能用界面和 ChatGPT 几乎一样。3.3 对接编程工具VS Code装Continue插件配置里把 provider 改为ollama模型选qwen2.5:7b。Pythonpip install openai然后把base_url指向http://localhost:11434/v1。常见问题排查Q1运行模型后回复很慢说明模型太大你的硬件带不动。换一个小一点的模型试试比如把7b换成3b或1b。Q2提示显存不够Ollama 会自动用 CPU 代替 GPU速度会慢一些不会崩溃。如果实在太慢换更小的模型。Q3模型下载到一半断了重新运行同一条ollama run命令会自动断点续传。Q4中文回答乱码确保用qwen2.5、deepseek这类中文友好的模型。Llama 的中文能力相对较弱。Q5Ollama 开机自启太占内存右键任务栏托盘图标 → 取消 Launch on startup。想用的时候手动打开 Ollama 即可。硬件参考配置能跑的模型8GB 内存 / 无独显1B–3B 模型llama3.2:1b, qwen2.5:3b16GB 内存 / 无独显7B–8B 模型qwen2.5:7b, deepseek-r1:8b16GB 内存 6GB 显存7B–14B 模型速度飞快32GB 内存 12GB 显存32B 模型也没问题总结路线图1. ollama.com 下载 → 安装5分钟 2. ollama run qwen2.5:7b → 对话10分钟 3. 装 Open WebUI → 有图形界面可选10分钟 4. VS Code Continue 插件 → AI 编程助手可选5分钟装好之后你就有了一整套完全免费的、私密的、不依赖云端的本地 AI 环境。