
little-coder后台任务ShellStart详解事件驱动唤醒机制告别71次轮询浪费【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coderlittle-coder是为本地小模型打造的编码 Agent它的后台任务工具ShellStart用事件驱动唤醒机制取代了传统的定时轮询你声明什么事件值得叫醒我任务在后台安静运行直到崩溃、里程碑或静默发生才唤醒模型——一个 6 小时的训练任务从 71 次无效检查变成几乎零轮询开销。本文带你完整理解这套机制的设计思路与用法。为什么轮询是本地小模型的最坏选择传统 Agent 跑长任务的套路是后台启动命令然后每隔几分钟用一轮对话去看一眼日志。对云端大模型来说这是小额浪费但对本地小模型是双重灾难每看一次就是一个完整 turn消耗宝贵的上下文窗口 本地推理几秒钟bash工具默认阻塞整个 turn直到命令退出长任务要么冻住会话要么被迫轮询。官方算过一笔账一个 6 小时的微调任务每 5 分钟查一次 71 个纯浪费的 turn。上图展示了本地推理的时间经济学每个 turn 都要花真实的推理秒数轮询就是在反复支付这笔账单。这正是 ShellStart 要消灭的浪费。ShellStart 核心用法声明唤醒条件然后继续干别的ShellStart 反转了思路——不是我定时去查任务而是任务有大事发生时它来叫我。模型启动任务时通过wake_on字段预先声明值得被打醒的事件{name: ShellStart, input: { command: python train.py --epochs 50, label: finetune, wake_on: {match: [Traceback, CUDA out of memory, val_loss], every_n_matches: 10, silence: 15m}}}wake_on 字段触发条件exit任务退出默认开启match某行输出命中关键词——支持正则退化到字面文本silence产生过输出后安静超过指定时长如15m用于发现假死every_n_matches每 N 次命中才唤醒给爱刷屏的模式限流工具技能卡明确写着你不会被轮询你会被自动叫醒——别用 ShellLog 循环检查那会让这个工具失去全部意义。事件驱动唤醒机制三级紧急度分车道投递并非所有事件都值得立刻打断你。little-coder 按紧急度决定唤醒何时到达高紧急崩溃、报错类 match→ 立即中断当前 turn插队处理中紧急干净退出、里程碑→ 等手头已发出的工具调用跑完再通知常规输出→ 搭下一次 turn 的便车不产生任何额外开销。效果6 小时的进度条刷屏成本为零第 40 分钟蹦出的 traceback一个 turn 内、立刻送达。且唤醒载荷是有界的——只给你日志摘录 退出码绝不把整份日志灌进上下文需要翻更深时用ShellLog按需分页。配套四件套ShellLog / ShellList / ShellSend / ShellStopShellStart 不是一个孤立工具而是一套后台任务家族工具作用典型场景ShellList查看正在跑的后台任务忘记任务还活着时ShellLog按需读取任务输出唤醒后想深挖上下文ShellSend向 stdin 写数据REPL 交互、需要输入的引导式安装程序ShellStop杀掉任务训练方向跑偏时止损终端底部还有一条常驻指示行实时显示⟳ 1 background job — finetune 12m跑了几分钟的任务永远不会隐形。任务生命周期活过 turn但绝不活过 session本地小模型最大的敌人是显存——一个被遗忘的训练进程能独占你的 8GB VRAM 半天。ShellStart 为此设计了两道保险任务跑在独立进程组里以组为单位发信号python train.py下的 shell 子进程会跟着一起死不会被孤儿化session 关闭和所有可捕获信号都会收割全部任务而 SIGKILL 谁都无法捕获所以每个任务还携带一个看门狗——little-coder 进程一消失立刻杀掉自己的进程组。安全同样不打折ShellStart与bash走同一份白名单和写保护闸门构建/测试类命令通常需通过LITTLE_CODER_BASH_ALLOW授权。快速上手三个常见场景训练/微调声明match盯崩溃 every_n_matches限流评测行 silence防假死见上文示例构建任务只关心结果的话{command: npm run build, label: build}一行即可默认exit唤醒服务器/监视器配合ShellSend投喂输入、ShellStop收尾全程不阻塞主会话。这套省 turn 的哲学不只属于 ShellStart——从 19% 到 45.6% 的基准跃升背后正是每一 turn 都花在刀刃上的设计贯穿始终。延伸阅读相关模块与文档工具技能卡210 token 的使用指南skills/tools/shell_start.md后台任务引擎任务表、指示器、唤醒投递.pi/extensions/bg-shell/index.ts唤醒规则评估与载荷格式化.pi/extensions/bg-shell/jobs.ts官方文档 Background jobs 章节README.mdv1.16.0 发布说明ShellStart 首次登场CHANGELOG.md 一句话总结在本地小模型的世界里turn 就是钱。ShellStart 用事件驱动唤醒把人盯任务变成任务找人让 6 小时的等待不再消耗任何一个多余的轮询。【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coder创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考