OpenAI-compatible API 設置:在 Tavern Studio 連接自定義端點

OpenAI-compatible API 通常需要三項信息:Base URL、API Key(如果需要)和模型 ID。Tavern Studio 把這些提供商配置和角色卡、預設分開,這樣你可以換模型路線,而不用重寫角色。

很多雲服務、本地服務和第三方網關提供 OpenAI 風格接口,但並非所有細節都完全一樣。具體仍要看服務文檔。

適合誰

  • 想連接 OpenAI-compatible 雲服務的用戶。
  • 使用本地模型服務的開發者。
  • 有自定義網關、反向代理或私有端點的人。
  • 從 SillyTavern 遷移 API 設置的用戶。

核心內容

OpenAI-compatible endpoint 通常使用 Bearer Token,並通過 chat completions 接收 modelmessages。本地服務可能不需要 Key,自定義網關可能有額外 Header、帳戶 ID 或路徑。

不要把提供商信息寫進角色卡。角色、預設、模型連接應該分開管理。

Tavern Studio 如何處理

Tavern Studio 支援 OpenAI-compatible API 配置。完整遷移時,常見服務可以自動映射;自定義端點、本地服務、反向代理、Azure OpenAI、Cloudflare Workers AI、缺失 Base URL 或預設模型等需要手動檢查。

Prompt 組裝可以為 OpenAI 風格路線準備結構化 messages。

操作步驟

  1. 打開 API 或模型連接設置。
  2. 選擇 OpenAI-compatible 路線。
  3. 填寫 Base URL。
  4. 如需要,填寫 API Key。
  5. 填寫或選擇模型 ID。
  6. 保存連接。
  7. 發短消息測試。
  8. 把路線綁定到需要的聊天或預設。

常見問題

什麼是 OpenAI-compatible API?

指遵循 OpenAI 風格請求和響應的接口,常見為 /chat/completions

可以連接本地服務嗎?

可以,只要服務暴露兼容接口,Base URL 和模型 ID 設置正確。

Tavern Studio 會繞過 API Key 嗎?

不會。請使用提供商或你自己的本地服務提供的合法憑據。

為什麼端點連接失敗?

常見原因包括 Base URL 錯誤、漏寫 /v1、模型 ID 錯誤、Key 無效、代理問題或提供商差異。

同一角色能換不同端點嗎?

可以。通過模型路線和預設切換即可測試。

下一步