在 Tavern Studio 下載本地模型
下載本地模型和選擇雲端模型名不是一回事。你是在設備上添加一個真實文件,所以存儲、記憶體、速度和設備能力都要考慮。
Tavern Studio 支援本地模型工作流,讓用戶可以做私有或離線聊天,而不是只能當 API 包裝器。
適合誰
- 想用本地 LLM 但不想另開聊天 UI 的用戶。
- Windows 上選擇 GGUF 模型的人。
- Android 上測試端側模型能力的人。
- 想做私有角色聊天的創作者。
核心內容
下載模型前先看文件大小和硬體要求。一個小而穩定的量化模型,可能比一個勉強能跑的大模型更適合日常使用。
還要看用途。角色聊天、寫作、總結和指令跟隨,對模型能力要求不同。
Tavern Studio 如何處理
Tavern Studio 把下載/導入的模型放進同一個工作區。模型可用後,你可以選擇它作為路線,綁定預設,並配合角色卡和世界書使用。
本地模型是本地優先能力的一部分,但云端 API 仍然可用。
操作步驟
- 判斷你需要 Windows 本地推理、Android 本地推理,還是兩者都要。
- 選擇適合存儲和記憶體的模型大小。
- 在 Tavern Studio 中下載或導入模型。
- 在模型設置裡選擇它。
- 先發短 Prompt 測試。
- 用較小上下文跑一段角色聊天。
- 重要角色和聊天要單獨備份,不要和模型文件混為一談。
常見問題
Tavern Studio 可以下載本地模型嗎?
可以。Tavern Studio 支援本地模型下載/導入工作流。
本地模型佔空間大嗎?
可能很大。下載前應檢查文件大小。
模型越大越好嗎?
不一定。運行太慢的大模型不適合日常聊天。
模型可以之後刪除嗎?
可以管理模型存儲,但刪除前要區分模型文件和角色/聊天資料。
還能用 OpenAI 或 Claude 嗎?
可以。Tavern Studio 同時支援本地模型和雲端 API。
下一步
- 用導入 GGUF 模型添加已有文件。
- 配置雲端 API 聊天客戶端。
- 閱讀私有 AI 聊天客戶端。