单机版Solo · 1 台设备
个人开发者或小团队，用一台 Mac / PC / 服务器搭建私有模型服务。
A$749/ 一次性
含 1 台设备部署与调优
- 1 台设备 · Mac / Windows / Linux 任选
- 按硬件选型 1–2 个开源模型并量化
- OpenAI 兼容 API + Web 对话界面
- 开机自启与局域网访问配置
- 基础性能测试 + 使用说明
- 14 天远程技术支持
私有化算力部署 · 一次交付 · 完整验收
你的设备，你的模型，
你的设备，你的模型，
你的数据
把开源大模型部署到您已有的 Mac、Windows PC 或 Linux 服务器上：多台机器合并成一个统一入口，提供 OpenAI 兼容 API。我们按您的硬件做量化与调优，交付时附实测性能报告和验收文档。数据不出局域网，也不按 Token 付费。
macOS · Apple Silicon
Windows · NVIDIA
Linux · GPU 服务器
# 只需替换 Base URL，现有代码零改动 curl http://studio.local:23000/v1/chat/completions \ -H "Authorization: Bearer $ZAOKIT_API_KEY" \ -d '{"model":"qwen3.5-27b","messages":[{"role":"user","content":"你好"}]}' # → 首字 0.19s · 生成 33.5 tokens/s · 数据全程不出局域网
Why Private
大模型很强，但不是每份数据都适合上云
合同、源码、客户资料、财务数据……把它们留在自己的机器里，是很多团队的底线。
数据合规顾虑
敏感数据发往第三方 API 存在合规与泄露风险，很多业务场景根本无法使用云端模型。
Token 账单失控
批量处理、Agent 长任务、全员日常问答，按量计费的成本随用量线性上涨。
硬件闲置浪费
办公室的 Mac Studio、带显卡的工作站，大部分时间算力都在空转。
自己部署踩坑多
量化选型、显存/内存规划、上下文长度、多机互联、开机自启，每一步都可能卡几天。
Platforms
三大平台，按硬件选最合适的推理引擎
我们不绑定单一工具，而是根据芯片、内存与并发需求选择推理栈，并统一接入同一个网关。
macOS
Mac Studio · Mac mini · MacBook Pro（M1–M5 系列）
- MLX 4bit 量化，统一内存效率最大化
- 后台常驻服务开机自动加载，无需登录桌面
- 多台 Mac 组网，统一入口按模型名路由
- 可选接入 Codex / CC Switch 本地编程助手
MLXLM StudiollmsterOllamalaunchd
Windows
RTX 30/40/50 系列工作站 · 游戏主机改造
- CUDA 加速，GGUF / EXL2 量化按显存选型
- 显存不足时 GPU + 内存混合卸载调优
- 注册为 Windows 服务，开机自启、崩溃自动拉起
- 防火墙与局域网访问策略一并配置
CUDAllama.cppOllamaLM StudioNSSM
Linux
Ubuntu / Debian / RHEL · 单卡到多卡 GPU 服务器
- vLLM / SGLang 高并发，连续批处理与 PagedAttention
- 多卡张量并行，AWQ / GPTQ / FP8 量化
- Docker Compose / systemd 托管，日志与监控
- 适合团队级并发与 7×24 生产负载
vLLMSGLangllama.cppDockersystemd
Architecture
多台设备，一个入口
不同机器跑不同规格的模型，由统一网关负责鉴权、路由、用量与日志。调用方只需要一个地址和一把密钥。
业务应用OpenAI SDK / LangChain / Dify
员工浏览器Web 控制台对话
编程助手Codex · Claude Code · Cursor
→
Zaokit AI Gateway
局域网统一入口 · /v1 兼容接口
- 账号与独立调用密钥
- 按模型名路由到目标机器
- 额度、用量与渠道日志
- 流式 / 多轮 / 思考开关
→
主机 · 大模型例：Mac Studio · 27B
节点 2 · 中模型例：Mac mini · 9B
节点 3 · 轻量模型例：Linux / Windows · 4B
Tuning
不止“能跑”，而是跑得快、跑得稳
每一项调优都有基准测试佐证，交付时给出可复现的数据，而不是一句“已优化”。
模型与量化选型
按内存/显存反推最大可用模型，在 4bit / 8bit / FP8 之间权衡质量与速度，避免爆内存与频繁换页。
上下文与思考模式
按业务设定上下文窗口；默认直接回答以降低延迟，同时保留按请求开启深度思考的能力。
并发与吞吐
测量单请求与双请求吞吐、长提示首字延迟，给出建议的并发上限与机器分工。
开机自启与无人值守
重启后无需登录桌面即可恢复模型、网关与机器互联；关闭自动睡眠，来电自动开机。
访问安全
模型接口仅本机监听，统一由网关鉴权；无密钥请求直接拒绝，凭据独立受控交接，不写入文档。
远程运维与可选公网
通过 ZeroTier / SSH 授权运维；如需外出访问，可选 Cloudflare Tunnel + 邮箱验证的公网入口。
Case Study
真实交付：三台 Mac 组成的私有模型平台
1 台 Mac Studio（M5 Max · 64 GB）+ 2 台 Mac mini（M4 · 24 GB），分别部署 Qwen3.5 27B / 9B / 4B，局域网统一访问。以下数据来自交付验收文档。
| 本地基准（MLX 4bit） | 主机 27B | 节点 9B |
|---|---|---|
| 短提示生成速度 | 33.48 tok/s | 21.59 tok/s |
| 短提示首字延迟 | 0.19 s | 0.52 s |
| 长提示（1,691 tokens）生成 | 33.06 tok/s | 21.30 tok/s |
| 双请求合计吞吐 | 59.48 tok/s | 37.67 tok/s |
| 60 秒连续输出 | 1,954 TPM | 1,231 TPM |
10 / 10验收项全部通过
7模型渠道统一接入
9 / 9Codex 真实文件任务通过
12 / 12重启后无人登录调用通过
- 局域网统一入口 + OpenAI 兼容 /v1 接口
- 模型资料、渠道、额度与日志逐项核对
- 三机实际重启，无桌面登录状态下自动恢复
- 主机预装 Codex + CC Switch，默认接入 27B
- 20 页交付说明书 + 证据目录 + 凭据受控交接
Deliverables
交付的不只是“装好了”
每个项目都有可追溯的验收记录，方便您的团队接手、审计和后续扩容。
交付说明书
设备与模型清单、部署结构、地址端口、使用方法、运维与恢复步骤。
验收记录
逐项列明检查项与实测结果，明确区分“已验证”与“未验证”。
性能基准报告
TPS、首字延迟、并发吞吐、连续输出 TPM，附测试口径与原始记录。
凭据受控交接
管理员密码与调用密钥单独交接，不出现在任何文档或截图中。
Pricing
一次性交付，硬件与数据永远属于您
按设备数量与复杂度定价。无月租，无 Token 费用，部署完成后不依赖我们也能长期运行。
集群版Cluster · 最多 3 台
中小企业与工作室，多台设备组成统一的私有模型平台，即上方真实案例的同款方案。
A$1,799/ 一次性
含 3 台设备 · 约 A$600 / 台
- 最多 3 台设备，跨平台混合组网
- 统一网关：账号、密钥、额度与日志
- 按模型名路由到不同机器
- 无人登录开机恢复 + 重启验收
- 完整性能基准报告（TPS / 首字 / 并发）
- 可选 Codex / Claude Code 本地接入
- 完整交付说明书与验收记录
- 30 天远程技术支持
企业版Enterprise · 最多 8 台
多卡 GPU 服务器、团队级高并发或有合规审计要求的生产环境。
A$4,499/ 一次性
含 8 台设备 · 约 A$562 / 台
- 最多 8 台设备或多卡 GPU 服务器
- vLLM / SGLang 高并发与多卡并行
- 可选公网入口（Tunnel + 邮箱验证）
- 知识库 / RAG 接入方案设计
- 备份、恢复演练与运维手册
- 60 天支持 + 专属一对一通道
可选：持续运维托管
部署后按月托管：模型版本升级、远程巡检、故障排查与性能复测，可随时取消。
A$229 / 月
订阅运维
由 Stripe 提供安全加密结算 · 支持 Visa / Mastercard / Amex / 银联 UnionPay / Apple Pay / Google Pay · 自动生成正式收据与 Invoice
以上价格以澳元计，为部署与调优服务费，不含硬件。付款后 1 个工作日内与您确认硬件清单与排期；如评估后硬件不适合部署，全额退款。
Process
四步上线，通常 3–5 个工作日
硬件评估
提供设备型号、内存/显存与使用场景，我们免费给出可跑的模型规格与预期速度。
Stripe 下单
选择方案在线付款，自动生成收据；我们 1 个工作日内确认排期。
远程部署调优
通过授权的远程连接完成安装、量化、组网、网关与开机自启配置。
验收交付
逐项实测验收，交付说明书、性能报告与凭据，进入支持期。
FAQ
常见问题
我的电脑能跑多大的模型？
经验值：24 GB 统一内存的 Mac mini 可流畅运行 9B 级 4bit 模型；64 GB 的 Mac Studio 可运行 27B–32B；128 GB 以上可尝试 70B 级。Windows / Linux 主要看显存：12 GB 显卡适合 7–9B，24 GB 适合 27–32B 量化版。发送型号给我们，免费评估。
部署后数据会经过你们的服务器吗？
不会。模型权重与推理全部在您的设备上运行，基础方案仅限局域网访问。只有当您主动选择开启公网入口时，请求才会经过 Cloudflare 转发；我们的远程运维权限也可以在验收后由您关闭。
需要你们到现场吗？
不需要。全部通过授权的远程连接（屏幕共享 / SSH / ZeroTier）完成。您只需确保设备开机、联网，并在开始时配合授权一次。企业版可另行约定驻场。
效果能和 GPT / Claude 一样吗？
坦诚地说，本地开源模型在复杂推理上与顶级闭源模型仍有差距，但在日常问答、文档处理、代码辅助、批量数据处理等场景已足够实用，且没有调用费用和数据外泄风险。很多客户采用“敏感任务走本地、复杂任务走云端”的混合方式。
可以混用 Mac、Windows 和 Linux 吗？
可以。集群版和企业版支持跨平台混合组网，例如 Mac Studio 跑大模型、Windows 显卡主机跑中模型、Linux 服务器负责高并发，统一由网关按模型名称路由。
交付后模型更新、出问题怎么办？
支持期内免费远程排障。支持期结束后，可订阅“持续运维托管”按月获得模型升级、巡检与性能复测，也可按次付费咨询。交付说明书中包含日常运维与恢复步骤，您的团队也可自行维护。
如何付款？能开 Invoice 吗？
通过 Stripe 在线付款，支持 Visa、Mastercard、Amex、银联 UnionPay、Apple Pay、Google Pay，支持澳元、美元、欧元、新西兰元、加元、新加坡元计价，付款后自动生成正式收据与 Invoice。如需对公转账或合同，请邮件联系。
硬件不合适能退款吗？
可以。付款后我们会先做硬件确认，若评估结论是您的设备无法达到可用效果，在开始部署前全额退款。
把 AI 算力装进您自己的机房
发送您的设备型号与使用场景，24 小时内给出免费部署评估。
