OpenAI-compatible API 設置:在 Tavern Studio 連接自定義端點
OpenAI-compatible API 通常需要三項信息:Base URL、API Key(如果需要)和模型 ID。Tavern Studio 把這些提供商配置和角色卡、預設分開,這樣你可以換模型路線,而不用重寫角色。
很多雲服務、本地服務和第三方網關提供 OpenAI 風格接口,但並非所有細節都完全一樣。具體仍要看服務文檔。
適合誰
- 想連接 OpenAI-compatible 雲服務的用戶。
- 使用本地模型服務的開發者。
- 有自定義網關、反向代理或私有端點的人。
- 從 SillyTavern 遷移 API 設置的用戶。
核心內容
OpenAI-compatible endpoint 通常使用 Bearer Token,並通過 chat completions 接收 model 和 messages。本地服務可能不需要 Key,自定義網關可能有額外 Header、帳戶 ID 或路徑。
不要把提供商信息寫進角色卡。角色、預設、模型連接應該分開管理。
Tavern Studio 如何處理
Tavern Studio 支援 OpenAI-compatible API 配置。完整遷移時,常見服務可以自動映射;自定義端點、本地服務、反向代理、Azure OpenAI、Cloudflare Workers AI、缺失 Base URL 或預設模型等需要手動檢查。
Prompt 組裝可以為 OpenAI 風格路線準備結構化 messages。
操作步驟
- 打開 API 或模型連接設置。
- 選擇 OpenAI-compatible 路線。
- 填寫 Base URL。
- 如需要,填寫 API Key。
- 填寫或選擇模型 ID。
- 保存連接。
- 發短消息測試。
- 把路線綁定到需要的聊天或預設。
常見問題
什麼是 OpenAI-compatible API?
指遵循 OpenAI 風格請求和響應的接口,常見為 /chat/completions。
可以連接本地服務嗎?
可以,只要服務暴露兼容接口,Base URL 和模型 ID 設置正確。
Tavern Studio 會繞過 API Key 嗎?
不會。請使用提供商或你自己的本地服務提供的合法憑據。
為什麼端點連接失敗?
常見原因包括 Base URL 錯誤、漏寫 /v1、模型 ID 錯誤、Key 無效、代理問題或提供商差異。
同一角色能換不同端點嗎?
可以。通過模型路線和預設切換即可測試。
下一步
- 了解雲端 API 聊天客戶端。
- 使用Windows 本地 LLM作為本地路線。
- 用預設和提示詞管理控制生成。