本地部署

Jan 把本機 LLM、雲端模型、自訂 assistant、OpenAI 相容 API 與 MCP 整合進桌面工作台，本文拆解它的架構、建置方式、導入試點與安全邊界。

Unsloth 正從「更省 VRAM 的微調工具」擴展成可在本機執行、訓練、匯出與部署模型的工作台。我用官方 README 的實際入口拆解它如何把 Unsloth Studio、Core、OpenAI 相容 API、GGUF 與 Agent 整合在一起，也整理硬體、授權、遠端暴露與安全邊界。