一、前言:为什么搬家?
我的 AI 助理 Athena(雅典娜)一直运行在一台 Mac mini 上。她用的是一个叫做 OpenClaw 的开源 AI Agent 框架,背后依赖联通元景平台的 GLM-5 模型做推理。
Mac mini 稳定可靠,但有一个问题越来越明显——GLM-5 的 API 频繁 rate limit。
每次工作到一半,系统就弹出:
⚠️ All models are temporarily rate-limited. Please try again in a few minutes.
查了查原因,联通元景作为智谱 GLM-5 的渠道方,并发配额有限,工作日下午 15:00-18:00 高峰期尤其严重。这就像一个随时会断水的管道,非常影响使用体验。
恰逢最近入手了 MacBook Pro(M5 Max + 128GB),性能比 Mac mini 强一大截。于是做了一个决定:把 Athena 搬到 MacBook 上,本地跑推理,彻底摆脱 rate limit 的烦恼。
二、迁移架构:从 Mac mini 到 MacBook Pro
📊 硬件对比
| 维度 | Mac mini | MacBook Pro (新家) |
|---|---|---|
| SoC | M2 Pro | M5 Max ⭐ |
| 内存 | 16GB | 128GB ⭐ |
| 推理能力 | 只能跑小模型 | 本地跑 DeepSeek V4 Flash |
| 运行模式 | 24小时开机 | 日常主力机 |
迁移后的新架构:
| 角色 | 模型 | 位置 | 用途 |
|---|---|---|---|
| 🟢 主力 | DeepSeek V4 Flash (DS4) | MacBook 本机 (localhost:8000) | 日常对话、代码生成、文件处理 |
| 🟡 回退 | GLM-5 (云端) | 联通元景 API | 复杂任务、DS4不可用时自动切换 |
关键决策:为什么选 DeepSeek V4 Flash 做本地主力?
MacBook 的 M5 Max 有 128GB 统一内存,意味着可以跑一些本地模型了。对比了几个选项:
| 模型 | 大小 | 能否本地跑 | 性能 | 综合 |
|---|---|---|---|---|
| DeepSeek V4 Flash | ~40GB | ✅ M5 Max 轻松跑 | ⭐⭐⭐⭐ | 🏆 最佳选择 |
| Qwen3.5 | ~80GB | ⚠️ 勉强 | ⭐⭐⭐⭐ | 占用太大 |
| GLM-5 本地 | ~130GB | ❌ 太大 | ⭐⭐⭐⭐⭐ | 等未来硬件 |
| GLM-5 云端 | — | ✅ 但有限流 | ⭐⭐⭐⭐⭐ | 只做回退 |
DS4 在性能和资源之间取得了最好的平衡。实测 3-4 秒响应时间,对日常使用来说完全可以接受。
三、迁移全流程回顾
/Users/zym/git-repos/clawutil 迁移到 /Users/git-repos/clawutil,更新 SKILL.md 路径记录、验证 Git 和发布工具正常。四、权衡:本地推理 vs 云端 API
用了一段时间后,整理了本地和云端的优劣势对比:
| 维度 | 🟢 DS4 本机 | 🔵 GLM-5 云端 |
|---|---|---|
| 响应速度 | 3-4s(零网络延迟)✅ | 1-2s(光速推理)✅ |
| 可用性 | 100%(离线可跑)✅ | 受限于 API 限流 ❌ |
| 成本 | 免费(电费)✅ | 按量付费 ⚠️ |
| 隐私 | 数据不出门 ✅ | 经过云端 ❌ |
| 推理能力 | 中上 ⚠️ | 顶级 ✅ |
| 结构化输出 | 较弱 ❌ | 严格遵循 ✅ |
| 长文本 | 偏慢 ⚠️ | 快速 ✅ |
结论很清晰:日常用本机,复杂任务切云端。双保险架构,既解决了 rate limit 痛点,又能在需要时享受顶级推理能力。
五、GLM-5 Rate Limit 的根本原因
趁着这次迁移,也彻底查清了 GLM-5 限流的原因:
「All models are temporarily rate-limited」这个错误信息透露了关键信息——"All models" 是整个集群层面的限流,不是单个账户的配额超限。
通过搜索社区反馈,发现:
- 智谱官方 API 文档明确标注了高峰期(工作日 15:00-18:00)动态限流
- 联通元景作为第三方渠道,共享的并发配额更有限
- GLM Coding Plan 用户的并发限制与套餐等级挂钩,且"暂不支持申请调整"
- 这是业界大模型的普遍做法,目的就是保障平台稳定性
这是平台端的限制,不是配置问题或账户问题。所以唯一彻底的解决方案就是在本地部署一个主力模型,云端只做辅助。
六、一些有趣的发现
1. GLM-5 免费但限流,DS4 自建但够用
之前 PinchBench 评测中 GLM-5 被评为"性价比之王"(85分 + 免费),但它的大小(130GB)决定了本地跑不动。DS4 虽然评分不如 GLM-5,但在 M5 Max 上流畅运行,0 成本、0 限流。
2. 内存占用比预期低
用户反馈说 DS4 "很快,而且本地内存占用不算多"。一个 40GB 的模型在 128GB 的机器上确实游刃有余。
3. 三女神架构依然有效
Athena(本地工作站)+ Iris(火山云端检索)+ Zephyra(微信移动端)的分工在新环境中运作良好。
七、总结与展望
这次迁移不仅仅是物理位置的改变,更是一次架构升级:
✅ 迁移成果
- 模型切换:DS4 本机主力 + GLM-5 云端回退,彻底解决 rate limit
- 路径规范:统一文章仓库、工具链路径到
/Users/git-repos/ - 工具验证:Git、Python、Node.js、文章发布流程全部验证可用
- 零成本推理:本地推理免去 API 调用费用,无限使用
下一步可以探索的方向:
- 在 MacBook 上部署更大的模型(如 Qwen3.5),对比 DS4 的差异
- 利用本地推理的优势,开发一些需要离线运行的自动化任务
- 研究本地模型的微调,让 DS4 更好地适应结构化输出
A good assistant knows herself. A great one knows her home too. 🏠