LibreChat：把多模型、MCP 與可恢復 Agent 工作流整合進自架 AI 工作台

如果團隊同時使用 OpenAI、Claude、Gemini、Bedrock、Azure OpenAI、Ollama 或其他 OpenAI-compatible endpoint，真正麻煩的往往不是「哪個模型比較強」，而是如何把模型、工具、檔案、權限與對話歷史放在一個可治理的工作環境裡。LibreChat 的價值，就在於它不是單純複製聊天介面，而是把多模型入口、Agents、MCP、Code Interpreter、Artifacts、搜尋與多使用者管理組合成一個可自行託管的平台。

這次選題的依據很直接：LibreChat 是活躍維護的實作型開源專案。本次 GitHub 搜尋顯示它有 42,898 顆星，最近一次 push 發生在 2026 年 9 月 7 日；它的核心不是文章、課程或資源清單，而是一套以 TypeScript 為主的可部署應用程式。以下內容依據專案 README、官方文件連結與 v0.8.8-rc2 更新摘要整理，重點放在它的工程組成與適用情境，而不是把功能清單重新排列一次。

先釐清：LibreChat 解決的是「AI 工作台」問題

許多聊天產品把模型選擇當成下拉選單，但實際部署後，模型只是系統的一部分。使用者還需要上傳資料、執行程式、呼叫外部 API、保存可重用的指令、管理團隊權限，並在長任務中處理中斷與恢復。這些需求若分散在不同服務，使用體驗會碎裂，管理者也很難掌握資料流向與成本。

LibreChat 的定位是 self-hosted AI chat platform。它提供類似 ChatGPT 的操作介面，但把模型供應商、工具與部署控制權交還給使用者。官方 README 列出對 Anthropic、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI 與 Responses API 的支援，也允許接入任何 OpenAI-compatible API。對需要混用雲端模型與本地模型的團隊而言，這個抽象層比單一模型的聊天前端更有實際意義。

多模型不是重點，模型切換才是工作流能力

LibreChat 可以在同一個平台中設定多個 endpoint，並在對話或 preset 之間切換。這讓模型選擇可以按照任務拆分：例如用較快、成本較低的模型做分類與摘要，用推理能力較強的模型處理複雜規劃，再把需要私密資料的步驟導向本地或內網模型。

這種設計也降低了 provider lock-in。應用層不必為每個供應商維護一套獨立 UI；團隊可以保留一致的對話、檔案與權限體驗，把差異集中在 endpoint 設定與模型能力上。當供應商的 API、價格或可用性改變時，替換後端不必重新教育所有使用者。

不過，多模型入口不代表每個模型都具備相同能力。檔案解析、tool calling、vision、reasoning、上下文長度與安全策略仍可能不同。LibreChat 讓入口統一，卻沒有消除模型差異；部署時仍應為每個 preset 設定清楚的任務邊界，並透過實際評測驗證輸出品質。

Agents、MCP 與 Skills：從聊天走向可組合工具

LibreChat 的另一個核心是 Agents。官方說明支援建立 no-code custom assistants，並可搭配 MCP servers、tools、file search 與 code execution。這意味著 Agent 不只是在 system prompt 中寫一段角色描述，而是可以擁有明確的工具集合與執行範圍。

MCP 在這裡扮演連接層角色。它把資料庫、搜尋、內部 API 或其他外部能力以工具形式暴露給 Agent，讓 LibreChat 可以在不把每個整合硬編碼進前端的情況下擴充能力。對工程團隊而言，這種邊界有兩個好處：工具可以獨立演進，也可以在不同 Agent 之間重用。

專案目前也把 Skills 納入 Agent 設定。Skills 是可重用的 SKILL.md 指令包，可以用於手動、依需求或常駐工作流。這比把所有規則塞進單一長 prompt 更容易版本控制，也更接近軟體工程中的模組化思維。當團隊要建立一套研究、客服、程式碼審查或文件處理流程時，可以將每個能力拆成可測試、可審核的技能單元。

需要注意的是，工具越多，風險面也越大。MCP server 的權限、網路出口、輸入驗證與結果可信度都必須獨立審查。把工具接上 Agent 不等於完成治理；生產環境仍應採取最小權限、明確核准與可追蹤的執行紀錄。

長任務的關鍵：可恢復，而不是只會串流

LibreChat 最近的更新摘要特別強調 Agent run control、human-in-the-loop、background tools、subagents 與 durable automation。這些功能共同指向一個現實問題：Agent 工作通常不是一次請求、一次回應就結束。

在長任務中，使用者可能需要在 Agent 產生可見答案前中斷它，補充檔案或引用內容，再要求繼續；工具可能在背景執行，完成後才交付結果；子 Agent 可能在獨立上下文中處理一個分支，完成後喚醒父 Agent。若系統只有即時串流，任何網路中斷或瀏覽器關閉都可能讓工作狀態消失。

LibreChat 提供 resumable streams，官方 README 也提到多分頁、多裝置同步，以及在搭配 Redis 時支援水平擴展。這代表它的設計開始從「把 token 顯示在畫面上」轉向「把一次 Agent run 當成可持續的工作狀態」。對企業內部自動化尤其重要，因為可恢復性直接影響使用者是否敢把任務交給系統長時間執行。

Code Interpreter 與 Artifacts：讓輸出變成可操作成果

LibreChat 的 Code Interpreter 提供隔離的執行環境，支援 Python、Node.js、Go、C/C++、Java、PHP、Rust 與 Fortran，並能處理上傳、加工與下載檔案。這使聊天介面不只產生文字，也可以成為資料分析、轉檔、程式測試與報表產出的入口。

Artifacts 則把 React、HTML 與 Mermaid 等內容以可預覽、可匯出的形式呈現。兩者結合後，使用者可以要求 Agent 讀取資料、執行計算、生成圖表，再把結果以可下載檔案或互動預覽交付，而不是手動複製一段程式碼到其他工具。

「隔離」不應被誤讀成「自動安全」。沙箱仍需要限制網路、檔案、資源與命令權限，並針對上傳內容與產出檔案做掃描。LibreChat README 同時列出安全標頭、CSP、SSO、JWT 與 SSRF 防護等部署能力，這些項目值得和 Code Interpreter 一起評估，而不是等到開放給全公司後才補上。

自架的真正價值：資料、權限與可觀測性可以一起管理

對個人使用者來說，自架常被理解為「不用付訂閱費」。對團隊來說，更重要的是資料邊界與治理方式。LibreChat 提供 OAuth2、LDAP、Email login、多使用者、群組與管理面板，並能設定角色或群組的權限覆寫。這讓它有機會成為內部 AI 入口，而不只是單機聊天工具。

README 的更新摘要也提到 Langfuse observability、加密連線、tenant fanout、source-aware content filters、Insights 與 encrypted secrets。這些能力反映出平台正在處理企業環境的兩個基本問題：模型到底看到了哪些資料，以及一次回應消耗了哪些資源。

部署者仍需要自己確認實際安全邊界。包括反向代理、TLS、密鑰輪替、資料庫備份、Redis 可用性、物件儲存權限、MCP 工具審核與模型供應商的資料保留政策。開源平台提供的是控制面，不會替你完成營運責任。

適合哪些團隊？

第一類是想集中管理多個模型供應商的工程團隊。若成員已經分別使用不同聊天服務，LibreChat 可以提供統一入口與 preset，降低工具分散。

第二類是需要把內部資料與 Agent 工具放在自有網路中的組織。MCP、檔案處理、Code Interpreter 與多使用者權限，能把原本需要拼接多個 SaaS 的工作流收斂到一個平台。

第三類是正在從 prompt prototype 走向可維運 Agent 的團隊。Agents、Skills、Subagents、human-in-the-loop 與可恢復串流，提供比「一個聊天視窗加一段 prompt」更接近產品化的結構。

相反地，如果需求只是個人快速聊天，或團隊沒有能力維護身份、資料、模型與工具權限，直接使用託管服務可能更省事。LibreChat 的彈性伴隨設定與營運成本，這是自架方案必須誠實面對的交換。

建議的導入順序

可以先從單一 provider、單一使用者與沒有高風險工具的環境開始，確認基本對話、檔案與 preset 流程。接著加入第二個 provider，測試模型切換與失敗處理；再引入一個只讀的 MCP tool，觀察工具呼叫、錯誤回傳與權限紀錄。

確認基本鏈路穩定後，再逐步開啟 Code Interpreter、Skills、Subagents 與背景工具。每加入一項能力，就應新增對應的評測案例，例如提示注入、過度授權、敏感資料外洩、工具失敗與長任務中斷。最後才把多使用者、SSO、Redis、物件儲存與可觀測性納入正式部署。

這種漸進式方法的重點不是少開功能，而是讓每個功能都有清楚的風險模型與回滾方式。Agent 平台的成熟度，往往不在於能示範多少能力，而在於失敗時能否停下來、查得到、恢復得了。

結語

LibreChat 值得關注，不是因為它把 ChatGPT 的外觀搬到自有環境，而是因為它把聊天、模型路由、Agent 工具、MCP、程式執行、檔案成果與企業治理放在同一個可部署產品中。v0.8.8-rc2 的更新方向尤其清楚：Agent 正從單輪對話元件，變成需要狀態、協作、核准與恢復能力的長流程系統。

對 AI 應用開發者而言，LibreChat 可以當成可直接使用的內部 AI 工作台，也可以當成觀察 Agent 產品化趨勢的參考實作。它不能替代模型評測與安全設計，但提供了一個足夠完整的整合面，讓團隊把注意力放在真正的工作流與治理問題上。

參考資料

專案 GitHub：https://github.com/danny-avila/LibreChat
官方文件：https://www.librechat.ai/docs
v0.8.8-rc2 更新摘要：https://www.librechat.ai/changelog/v0.8.8-rc2
Model Context Protocol 客戶端清單：https://modelcontextprotocol.io/clients#librechat