多分支 AI 對話:重試、繼續、編輯和候選回復

多分支 AI 對話解決了一個常見痛點:單次生成的回覆不應該決定整個對話的走向。如果 AI 的回答已經很接近預期,您應該能夠直接編輯它;如果回答在中途斷掉,您應該能夠讓它繼續生成;如果一個提示詞引導出了兩條同樣有趣的對話方向,您應該能夠同時探索並保留這兩條路徑。

Tavern Studio 提供了靈活的對話工作流,包括分支創建、重試生成、繼續生成、行內編輯以及 swipe 樣式的候選回復切換。這些工具對於創意寫作、角色扮演、AI 角色聊天、提示詞測試以及本地 LLM 參數微調十分有用。

與其將聊天歷史視為一條單線、不可更改的日誌,多分支 AI 對話讓您的聊天進程變成一棵充滿選擇的動態對話樹。

適用人群

  • 作家與創作者:探索不同的劇情走向、對話選擇或場景變化。
  • 角色聊天使用者:生成、滑動並對比多個候選回復,以找到合適的回答。
  • 提示詞測試人員:觀察不同模型或系統提示詞在相同上下文下的響應差異。
  • 本地 LLM 用戶:測試預設(Presets)、溫度(Temperature)等生成參數。
  • 所有用戶:避免因誤觸「重新生成」而丟失剛才滿意的 AI 回答。

核心內容

在傳統的單線聊天歷史中,重試一條消息通常會直接覆蓋之前的生成結果。說明這種方式簡單,但限制了對話的可能性。AI 的輸出具有隨機性,對於同一個提示詞,兩個不同的回答可能會因為不同的原因而同時具有參考價值。

多分支 AI 對話讓管理這些候選項變得更加方便:

  • 重試生成 (Retry):生成新的回答,而無需刪除或覆蓋上一次的生成結果。
  • 繼續回復 (Continue):當 AI 回答因上下文長度或 Token 限制中途斷掉時,指示模型接著往下寫。
  • 編輯 (Edit):允許手動修改任何消息(無論是您發送的還是 AI 生成的),並從修改後的狀態繼續對話。
  • 橫掃候選回復 (Swipe / Candidate Replies):在同一個對話回合中生成並滑動切換多個候選回復,方便進行對比。
  • 分支創建 (Branching):允許不同的故事線、測試方向或推理路徑在平行空間內共存。

當這種非線性工作流與角色卡(Character Cards)和世界書(World Info / Lorebooks)結合使用時,非常方便。一個場景往往有多種合理的走向、語氣或劇情揭露方式。分支功能讓您可以自由探索每一種可能,而無需手動複製聊天記錄或管理多個零散的聊天文件。

Tavern Studio 如何解決這個問題

Tavern Studio 將多分支對話工具整合到了聊天工作區中。用戶在使用本地模型、雲端 API、角色卡、世界書以及自定義預設時,可以進行重試、繼續、編輯並保留交錯的對話分支。

我們的出發點並不是讓聊天變得複雜,而是為了防止用戶丟失有價值的生成內容。如果一個回答很接近預期但有一些瑕疵,您可以直接編輯它;如果模型的回答引出了一個意料之外但十分有趣的方向,您可以直接派生出一個新分支進行探索,而不會破壞主線對話完整性。

與 SillyTavern 及其他 AI 聊天客戶端的關係

SillyTavern 的用戶通常習慣於使用 swipe 滑動重新生成和候選回復來引導角色互動。Tavern Studio 在其獨立的本地優先工作區中,也支援了類似的工作流。

如果您打算從 SillyTavern 遷移過來,Tavern Studio 提供了內置的導入器(可通過 Settings -> Data Management -> Import from SillyTavern 訪問)。您只需選擇您的 SillyTavern 項目根目錄(即包含 data 文件夾的目錄)即可掃描並預覽您的資料資產。該導入器是安全只讀的,不會修改、刪除或移動您 SillyTavern 目錄中的任何原始文件。導入器支援導入角色卡、世界書、兼容 OpenAI 的預設、API 密鑰與配置,以及標準的 JSONL 格式聊天記錄。導入完成後,這些資產將可以直接配合 Tavern Studio 的重試、繼續、編輯和分支工具使用。請注意,目前 Tavern Studio 尚未完全支援群組聊天(Group Chat),一些不支援的群組聊天內容在遷移過程中可能會被跳過。

相比之下,通用的 AI 聊天客戶端雖然有些也提供了簡單的編輯或重新生成按鈕,但它們通常仍將對話限制在一條單線的時間軸內。而在 Tavern Studio 中,多分支對話與提示詞、預設、角色、世界書和多模型後端深度融合,展現出更靈活的掌控力。

操作步驟

  1. 使用角色卡、空白助手、本地模型或 API 服務商啟動一次對話。
  2. 發送一條消息,並查看生成的回覆。
  3. 如果回復不理想但當前上下文無需修改,點擊 重試 (Retry)
  4. 如果回覆中途截斷,點擊 繼續 (Continue) 讓模型接著生成。
  5. 如果只需進行微調即可使用,點擊 編輯 (Edit) 直接修改消息。
  6. 使用 橫掃 (Swipe) 切換不同候選回復,或生成更多候選項進行對比。
  7. 當回復引出了一個有趣的新方向時,為該節點創建或保留一個 分支 (Branch)
  8. 為關鍵的分支命名和歸類,以防對話歷史過長後難以檢索。

常見問題

什麼是多分支 AI 對話?

它是一種允許您為同一回合生成、保存和切換多個不同回復並探索平行對話路徑的工作流,而不是每次重新生成都必須覆蓋舊的歷史記錄。

分支與重新生成有什麼區別?

普通的重新生成通常會直接抹去並替換前一條消息。而分支能夠將原始消息和新生成的回覆作為兩條平行的路徑同時保留,您可以隨時切換回任意一條路徑。

AI 聊天中的 「Swipe」 是什麼意思?

「Swipe」(滑動/橫掃)指的是在同一個對話回合中,通過左右滑動或切換來瀏覽針對同一提示詞生成的多個候選回復。這是角色聊天和 SillyTavern 用戶中非常流行的一項操作習慣。

多分支對話只適用於角色扮演或創意寫作嗎?

學術界和創作者都非常適合使用它。除了角色聊天和創意寫作外,它同樣適用於編寫程式碼、論文潤色、學術調研、模型回復對比、頭腦風暴,以及任何需要通過探索不同走向來篩選最佳輸出的場景。

本地模型也支援對話分支嗎?

支援。Tavern Studio 的分支、重試和編輯工具在所有後端服務中均可使用,包括本地運行的模型(如 GGUF 路由)、雲端 API 以及兼容 OpenAI 的第三方服務。

為何選擇編輯 AI 的消息而不是直接重試?

如果 AI 的回覆大部分都很好,只是存在個別錯別字或細節偏差,直接編輯會比讓模型重新生成整段文字要快得多。編輯後的內容將作為新的上下文,影響該分支後續的所有對話。

下一步

下載 Tavern Studio
Windows