大模型小白指南2 -- 小龙虾(openclaw)的本地部署(不花钱!)

📅 发布时间:2026/7/3 15:44:33 👁️ 浏览次数:
大模型小白指南2 -- 小龙虾(openclaw)的本地部署(不花钱!)
前文回顾大模型小白指南系列1—普通电脑也可以本地部署千问大模型3.5(QWen3.5)https://blog.csdn.net/SayForLin/article/details/158806276最近小龙虾openclaw爆火其实不用去腾讯楼下排队自己也可以安装的而且是不花钱的版本。本指南面向以下对象1不熟悉linux2电脑比较普通3对于大模型不太了解本指南尽可能简化安装不安装wsl2不安装ollama或webui等不使用API。一安装Nodejs1.1 获取nodejsopenclaw要求v22以上版本现在最新LTSLong Term Support版本是24.14.026.2.24发布发布时间比较短建议使用v22.22.026.1.13发布)。不要在国内镜像下载可能国内镜像开源部分造成现在刚更新到24.6.0版本。官网下载页面https://nodejs.org/en/download下载链接v24.14.0 win64 win安装版https://nodejs.org/dist/v24.14.0/node-v24.14.0-x64.msiv24.14.0 win64 zip压缩包https://nodejs.org/dist/v24.14.0/node-v24.14.0-win-x64.zipv22.22.0 win64 win安装版https://nodejs.org/dist/v24.14.0/node-v22.22.0-x64.msiv22.22.0 win64 zip压缩包https://nodejs.org/dist/v22.22.0/node-v22.22.0-win-x64.zip1.2安装nodejs图方便下载win安装版直接运行默认安装是带npmNode Package ManagerNode.js 自带的包管理工具用于安装、管理、共享和发布 JavaScript 项目的依赖包的而npm的原生模块需要在安装时进行编译。方法有二1是通过choclate进行安装2是安装python和c/c的BuildTool。Python本来就要用选择2。一路Next安装完毕我是在这个页面先安装了MSBuild工具打开PowerShell验证node --version v22.22.0 npm --versionnpm出现错误提示如下Npm脚本无法运行是因为现在的策略禁用脚本。WinR打开运行界面输入powershell按CtrlShiftEnter以管理员身份打开Powershell输入Set-ExecutionPolicy RemoteSigned yRemoteSigned策略允许本地运行脚本而远程需要签名。再测试npm --version正常运行1.3配置nodejs如果不担心安装在c盘拖慢系统速度可以略过这一步在E盘建立几个目录Powershell下的命令在资源管理器里也可以​ mkdir e:\AI\ mkdir e:\AI\npm mkdir e:\AI\npm-cache 设置全局安装目录和缓存log目录 npm config set prefixe:/AI/npm npm config set cachee:/AI/npm_cache 配置国内镜像源阿里或腾讯加速下载 npm config set registry https://registry.npmmirror.com 或 npm config set registry https://mirrors.cloud.tencent.com/npm/1.4安装辅助编译环境1.4.1安装Visual C build tools参考URLhttps://github.com/nodejs/node-gyp#on-windows 的说明# 1. 安装Visual C Build Tools (C开发环境)下载Visual C build tools说明里的链接https://visualstudio.microsoft.com/zh-hans/thank-you-downloading-visual-studio/?skuBuildTools下载页面https://visualstudio.microsoft.com/visual-cpp-build-tools/或文件链接https://aka.ms/vs/stable/vs_BuildTools.exe不要选择任何一项只安装MSBuild工具这样大约133MB。1.4.2安装Python我安装的是老版的v3.10.11略1.4.2.1配置Python依赖node-gyp 是 Node.js 官方提供的跨平台命令行工具用于将 python/C/C 源代码编译为 Node.js 可加载的 .node 原生插件。node-gyp要求python版本大于3.6如果电脑上有不止一个版本的Python选择node-gyp支持的版本最好是3.8以上路径在powershell里输入如下命令(例)设置调用路径$Env:npm_config_pythonE:\Program\Python310\python.exe如果只有一个python且已经加入环境变量的Path里则可省略。1.4.3安装Git如果不安装在使用npm安装openclaw时由于调用失败会报4058错误如果我们只是为了使用openclaw完全不需要安装个完整的Git环境Msys2只需要安装它的windows最小发行版MinGit即可这个版本主要就是面向小白和第三方工具调用的。git官网https://gitforwindows.orgmingithttps://gitforwindows.org/mingit.html国内阿里镜像https://registry.npmmirror.com/binary.html?pathgit-for-windows下载MinGit v2.52.0.windows.1 64位busybox版这个是MinGit的紧凑版。https://registry.npmmirror.com/-/binary/git-for-windows/v2.52.0.windows.1/MinGit-2.52.0-busybox-64-bit.zip建立E:\AI\MinGit文件夹将压缩包内容解压到MinGit目录我的电脑右键-高级系统设置-高级-环境变量-设置环境变量-系统变量-Path增加一项E:\AI\MinGit\cmd打开powershell或者cmd界面输入 git version显示版本号说明设置正确。二安装OpenClaw2.1安装Openclaw打开Powershell进入到计划安装openclaw的目录比如e:\AI\npmcd e:\AI\npm 全局安装 npm install -g openclaw初始化openclaw.\openclaw onboard --install-daemon回答选项(用方向键选择后回车如果选错了ctrlc退出然后重新输命令进入)...continue? - yes Onboarding mode - Quickstart Model/auth provider - skip for now (以为要选择本地模型) Filter models by provider - All providers Default model - default (会改) Select channel - skip for now Configure skills now? - yes Install missing skill dependencies - skip for now 需要用空格键选择 Set google...key for goplaces - no各种key 一律 no Enable hooks? - skip for now选完后浏览器会跳转到链接http://127.0.0.1:18789/#tokenxxxxxxxxxxxxxx但是会出现拒绝连接的提示别担心需要在powershell或cmd窗口里再输入一个命令openclaw gateway --port 18789提示如果想让它在后台运行不占用窗口可以使用start /b openclaw gateway --port 18789注意powershell里openclaw前面要加.\然后稍等下再刷新浏览器窗口可以看到已经可以打开。这就是Openclaw的Dashboard(控制面板)以后的调整可以在这个图形界面进行了。以后每次使用前需确保 Gateway 正在运行其实还要加上llama的server。2.2 配置模型以及和llama.cpp的连接llama.cpp以及千问9B模型的安装请见前文https://blog.csdn.net/SayForLin/article/details/158806276大模型小白指南系列1—普通电脑也可以本地部署千问大模型3.5(QWen3.5)https://blog.csdn.net/SayForLin/article/details/158806276https://blog.csdn.net/SayForLin/article/details/158806276首先需要验证llama.cpp的连接以及模型的id。关闭openclaw在powershell里打开llama.cpp的servercd e:\ai\llama.cpp .\llama-server.exe -m E:\AI\Models\Qwen3.5-9B-Q4_K_M.gguf --port 8000 -ngl 999打开浏览器尝试访问以下llama.cpp提供的本地网址http://127.0.0.1:8000/v1/models如果连接正常应该出现类似如下内容{ models: [ { name: Qwen3.5-9B-Q4_K_M.gguf, model: Qwen3.5-9B-Q4_K_M.gguf, modified_at: , size: , digest: , type: model, description: , tags: [ ],记下name和model(即ID)下面要用到。打开openclaw的配置文件openclaw.json别忘了备份通常位于如下位置c:\users\用户名\.openclaw\openclaw.json将下面的片段合并到里面不要覆盖。注意里面的id和name要使用刚才记下的models: { mode: merge, providers: { local: { baseUrl: http://127.0.0.1:8000/v1, apiKey: sk-local, api: openai-completions, models: [ { id: Qwen3.5-9B-Q4_K_M.gguf, name: Qwen3.5-9B-Q4_K_M.gguf } ] } } }, agents: { defaults: { model: {primary: local/Qwen3.5-9B-Q4_K_M.gguf }, models: { local/Qwen3.5-9B-Q4_K_M: { alias: qwen3.5-9B } } } },保存后在powershell或cmd窗口重新加载openclawopenclaw gateway --port 18789启动完成进入监听状态后在浏览器里重新访问以下网址chathttp://127.0.0.1:18789/chat?sessionagent%3Amain%3Amain在Openclaw里访问Qwen大模型比直接在llama.cpp里访问慢了很多下次进行优化。需要注意的是openclaw运行后会直接把本机暴露在互联网上安全配置也是必要的。上一篇大模型小白指南系列1—普通电脑也可以本地部署千问大模型3.5(QWen3.5)