本地部署

Jan 把本机 LLM、云端模型、自订 assistant、OpenAI 相容 API 与 MCP 整合进桌面工作台，本文拆解它的架构、建置方式、导入试点与安全边界。

Unsloth 正从「更省 VRAM 的微调工具」扩展成可在本机执行、训练、汇出与部署模型的工作台。我用官方 README 的实际入口拆解它如何把 Unsloth Studio、Core、OpenAI 相容 API、GGUF 与 Agent 整合在一起，也整理硬体、授权、远端暴露与安全边界。