这两年大模型几乎成了每个技术人、内容创作者的标配工具写代码、查资料、做总结、当助手几乎无所不能。但你有没有认真想过一件事——这些能力其实完全可以跑在你自己的电脑上。为什么我要把大模型“搬回本地”大多数人使用大模型的方式都很相似打开一个网页或者调用一个云端 API把自己的问题、代码甚至业务数据发送到远端服务器然后等待返回结果。这种方式确实方便但代价也同样明显对网络环境的强依赖数据与隐私不可控调用次数与 Token 成本对第三方平台的长期依赖如果有一天网络不稳定、接口限流、账号被封甚至服务直接下线你会突然意识到一件事你“最聪明的助手”其实并不在你自己手里。直到我开始尝试——在本地运行大模型。Ollama把大模型跑在你电脑上的最简单方式借助Ollama现在在一台普通的 Mac 或 PC 上就可以非常轻松地拉取并运行主流开源大模型。更重要的是Ollama 提供了标准化的本地接口让这些模型可以被各种AI 助手、编辑器、自动化工具直接接入使用。从使用体验上来说和云端模型几乎没有区别但数据完全掌握在自己手里。这一篇文章我会从零开始带你完成一次完整的本地大模型实践 如何安装并运行 Ollama 如何下载并管理本地模型 如何把模型接入你熟悉的 AI 助手 以及本地 AI 真正适合哪些场景当 AI 真正跑在你自己电脑上的那一刻你会发现很多事情都不一样了。一、安装 Ollama官网地址 https://ollama.com/官方对 Ollama 的定位很简单也很直接Ollama 是使用开放模型实现工作自动化的最简单方法同时还能确保你的数据安全。方式一直接下载安装推荐进入官网根据你的系统macOS / Windows / Linux下载安装即可安装完成后会自动启动本地服务。方式二使用 Docker 部署如果你更习惯容器化部署可以直接使用官方镜像/* by yours.tools - online tools website : yours.tools/zh/excel2json.html */ docker run \ -d \ --restartalways \ --name ollama \ --gpusall \ -p 11434:11434 \ -v /home/data/ollama:/root/.ollama \ ollama/ollama11434Ollama 默认服务端口/root/.ollama模型与配置存储目录--gpusall如果你的机器支持 GPU可直接启用部署完成后本地 Ollama 服务就已经就绪了。二、下载并运行模型模型仓库地址 https://ollama.com/library/qwen3这里我选择的是目前开源模型中综合表现非常不错的Qwen3你可以根据自己电脑的配置选择不同参数规模的模型。常用命令速览/* by yours.tools - online tools website : yours.tools/zh/excel2json.html */ # 1. 查看已安装模型 ollama list # 2. 拉取模型 ollama pull [模型名称] # 3. 运行模型 ollama run [模型名称] # 4. 删除模型 ollama rm [模型名称] # 5. 查看帮助 ollama help模型下载完成后你已经可以在终端中直接与本地大模型进行交互了。三、接入 AI 助手不写代码也能用如果你不想额外安装客户端应用一个非常简单的方式是使用浏览器扩展Page Assist配置 Ollama 本地链接打开 Page Assist 的设置页面找到模型配置将 Ollama 的本地地址填入即可默认是http://localhost:11434。配置完成后选择一个你已经下载好的模型就可以直接开始对话了。从使用体验上来看与常见的云端 AI 助手几乎一致但所有请求都只在本地完成。写在最后实际上不止是 Page Assist。现在已经有越来越多的 AI 工具、编辑器、自动化系统都支持通过 Ollama 的本地接口接入模型。一旦你搭建好了这层“本地大模型能力”后续几乎可以把 AI 接入到编辑器接入到自动化脚本接入到个人知识库甚至接入到你自己的应用中模型在本地能力可复用数据不出门。如果你之前一直在云端使用大模型那么这次尝试一次本地部署可能会成为你使用 AI 的一个重要转折点。