在 Tavern Studio 下載本地模型

下載本地模型和選擇雲端模型名不是一回事。你是在設備上添加一個真實文件,所以存儲、記憶體、速度和設備能力都要考慮。

Tavern Studio 支援本地模型工作流,讓用戶可以做私有或離線聊天,而不是只能當 API 包裝器。

適合誰

  • 想用本地 LLM 但不想另開聊天 UI 的用戶。
  • Windows 上選擇 GGUF 模型的人。
  • Android 上測試端側模型能力的人。
  • 想做私有角色聊天的創作者。

核心內容

下載模型前先看文件大小和硬體要求。一個小而穩定的量化模型,可能比一個勉強能跑的大模型更適合日常使用。

還要看用途。角色聊天、寫作、總結和指令跟隨,對模型能力要求不同。

Tavern Studio 如何處理

Tavern Studio 把下載/導入的模型放進同一個工作區。模型可用後,你可以選擇它作為路線,綁定預設,並配合角色卡和世界書使用。

本地模型是本地優先能力的一部分,但云端 API 仍然可用。

操作步驟

  1. 判斷你需要 Windows 本地推理、Android 本地推理,還是兩者都要。
  2. 選擇適合存儲和記憶體的模型大小。
  3. 在 Tavern Studio 中下載或導入模型。
  4. 在模型設置裡選擇它。
  5. 先發短 Prompt 測試。
  6. 用較小上下文跑一段角色聊天。
  7. 重要角色和聊天要單獨備份,不要和模型文件混為一談。

常見問題

Tavern Studio 可以下載本地模型嗎?

可以。Tavern Studio 支援本地模型下載/導入工作流。

本地模型佔空間大嗎?

可能很大。下載前應檢查文件大小。

模型越大越好嗎?

不一定。運行太慢的大模型不適合日常聊天。

模型可以之後刪除嗎?

可以管理模型存儲,但刪除前要區分模型文件和角色/聊天資料。

還能用 OpenAI 或 Claude 嗎?

可以。Tavern Studio 同時支援本地模型和雲端 API。

下一步