Mac 本地大模型，按内存选好，一条命令跑起来
Rapid-MLX 在 Apple Silicon 上运行本地模型：选别名、启动服务，再接入你的聊天或编程工具。
1.0 发布：内置 agent（工具、审批与图片），新增 LFM3 / LFM3-VL、Ornith 和 MiniMax-H3。查看上手步骤与限制 →
pip install -U 'rapid-mlx>=1.0.3' -i https://pypi.tuna.tsinghua.edu.cn/simple需要 Python 3.12+；也可用 install.sh 安装脚本。rapid-mlx serve <model>首次启动会下载权重；大陆用户先看下载说明。rapidmlx.com / dl.rapidmlx.com）提供，
大陆可直连下载，不经过 GitHub。节点在海外，速度取决于运营商出口——
通常“能稳定下载”，但请勿期待国内 CDN 的速度。升级到 1.0.0 后，目录里的主流模型直接从
Rapid-MLX 镜像下载，无需访问 Hugging Face，见下载说明。
你的 Mac 能跑多大模型？
看看每档内存能解锁什么模型。表内均为可复制的目录别名；模型权重取自目录，实际运行还需要系统、上下文和缓存空间。
| 统一内存 | 聊天 / 日常 | 代码任务 | 模型权重 | 已有实测 |
|---|---|---|---|---|
| 8 GB | qwen3-8b-4bit | qwen3-8b-4bit | 约 4 GB | 48.3 tok/sM4 Pro · 48 GB 实测 |
| 16 GB | qwen3.5-9b-4bit | deepseek-coder-v2-lite-16b-4bit | 约 5.98 GB | 34.7 tok/sM2 Pro · 32 GB 实测 |
| 24 GB | qwen3.5-27b-4bit | qwen3-coder-30b-4bit | 约 13.5 GB | 25.4 tok/sM5 Max · 36 GB 实测 |
| 32 GB | qwen3.8-27b-4bit | qwen3-coder-30b-4bit | 约 16.32 GB | 15.2 tok/sM4 Pro · 48 GB 实测 |
| 48 GB | qwen3.6-35b-4bit | qwen3-coder-30b-4bit | 约 17.5 GB | 85.5 tok/sM4 Pro · 48 GB 实测 |
| 64 GB | qwen3.6-35b-optiq-4bit | qwen3-coder-30b-4bit | 约 24.69 GB | 64.4 tok/sM4 Pro · 48 GB 实测 |
| 96 GB | gpt-oss-120b | qwen3-coder-next-80b-4bit | 约 60 GB | — |
| 128 GB | qwen3.5-122b-mxfp4 | qwen3-coder-next-80b-4bit | 约 61 GB | — |
| 192+ GB | minimax-m2.7-mxfp4 | qwen3-coder-next-80b-8bit | 约 113.2 GB | — |
选型按模型权重不超过统一内存的约 65%，优先同档有 ≥10 tok/s 实测的强模型；速度为仓库的长输入解码实测（未启用推测解码），芯片与内存见表内。打开完整模型目录 →
两种方式，同一个引擎
桌面 App GUI
点开即用：选模型、开始对话，无需终端和配置。已签名并通过 macOS 公证。大陆点击下方按钮会自动从 dl.rapidmlx.com 镜像下载。
下载没反应或跳到了 GitHub？用镜像直链（dl.rapidmlx.com）——挂代理时地区判断可能失误，这个链接始终走大陆可直连的镜像。
终端 & 服务器 CLI
在 localhost 上起一个 OpenAI 兼容服务——Claude Code、Aider 以及任何支持 OpenAI API 的工具都能直接接入。
系统要求
- 芯片
- Apple Silicon——M1 或更新
- macOS
- 14（Sonoma）或更新
- Python
- 3.12+——缺失会自动安装
- 内存
- 按你的内存挑模型——在线选型器 →
第一步：安装引擎
推荐一条命令安装（脚本会自动准备隔离的 Python 环境，不动系统 Python，无需 sudo）：
$ curl -fsSL "https://rapidmlx.com/install.sh?from=zh" | bash
如果你已有 Python 3.12+ 环境且 PyPI 官方源较慢，可以直接用清华镜像源安装 1.0.3 或更新版本。注意：Python 3.10 / 3.11 上 pip 只能装到 1.0.0，之后不会再更新，请先装 Python 3.12+（install.sh 安装脚本会自动处理）：
$ pip install -U 'rapid-mlx>=1.0.3' -i https://pypi.tuna.tsinghua.edu.cn/simple
Homebrew 用户也可以 brew install rapid-mlx（已进入 homebrew/core，无需第三方 tap）。
第二步：启动一个模型
服务启动后，就可以把本地端点接入你的工具。
接到你的工具里
Claude Code 用 ANTHROPIC_BASE_URL=http://localhost:8000；OpenCode 和支持自定义 OpenAI API 的客户端用 http://localhost:8000/v1。Cursor 这类从厂商服务器发请求的客户端不能直接访问你的 localhost，需要按接入指南配置 HTTPS 隧道。
模型下载（大陆网络）
先升级到 1.0.0 或更新版本：rapid-mlx upgrade 或 pip install -U rapid-mlx。目录里的主流模型会直接从 Rapid-MLX 镜像下载，不访问 Hugging Face，也无需设置环境变量；下载内容仍会校验。
模型未收录在我们的镜像，或使用旧版本时，可设置 HF_ENDPOINT 作为备用：
$ export HF_ENDPOINT=https://hf-mirror.com
常见问题
数据会离开我的电脑吗？
直接连接本地服务时，推理和请求都在 Mac 上。若通过 Cursor 等经厂商服务器转发的客户端接入，请求会经过该客户端的服务。遥测默认关闭，首次运行时会询问是否开启。
免费吗？
引擎 Apache 2.0 开源，桌面 App 免费下载，没有订阅和按量计费。
该选哪个模型？
取决于内存：8 GB 的 Mac 从小模型起步，16 GB 以上可以跑主流开源模型。 用选型器选你的机型，直接看哪些模型放得下、跑多快。