Tavern StudioにおけるOpenAI互換API設定方法

OpenAI互換APIの設定には、通常、ベースURL、必要に応じたAPIキーまたはトークン、およびモデルIDの3つが必要です。AIロールプレイに最適なローカルLLMアプリであるTavern Studioでは、このプロバイダー設定をキャラカードやプリセットとは切り離して保持するため、キャラクターを書き換えることなくモデルのルートを切り替えることができます。

多くのプロバイダーやローカルサーバーが、OpenAIスタイルの /chat/completions APIを公開しています。一部対応していない場合もあるため、常にプロバイダーのドキュメントを確認してください。

対象読者

  • OpenAI互換のクラウドサービスを接続するユーザー
  • ローカルモデルサーバーを使用する開発者
  • プライベートAIチャットクライアントでカスタムゲートウェイやリバースプロキシを使用している方
  • API設定を移行するSillyTavernのユーザー

主な内容

OpenAI互換エンドポイントは、一般的にベアラートークン認証を使用し、modelmessages を含むチャット完了(chat completions)のボディを使用します。ローカルサーバーではAPIキーを省略できる場合があります。カスタムゲートウェイでは、独自のヘッダー、アカウントID、またはパスが追加される場合があります。

プロバイダーの詳細情報をキャラクターカード内に保存しないでください。キャラクター、プリセット、およびモデルルートは個別に管理してください。

Tavern Studioにおける処理方法

Tavern StudioはOpenAI互換API設定をサポートしており、SillyTavernからの移行時に一般的なサービスをマッピングできます。カスタムエンドポイント、ローカルサービス、リバースプロキシ、Azure OpenAI、Cloudflare Workers AI、ベースURLの不足、またはデフォルトモデルの不足がある場合は、手動での設定が必要になることがあります。

プロンプトアセンブラーは、プロンプトエンジニアリングを容易にし、OpenAIスタイルのルート向けに構造化されたメッセージ配列を作成できます。

操作手順

  1. APIまたはモデルの接続設定を開きます。
  2. OpenAI互換ルートを選択します。
  3. ベースURLを入力します。
  4. エンドポイントで必要な場合は、APIキーを入力します。
  5. モデルIDを入力または選択します。
  6. 接続を保存します。
  7. 短いテストメッセージを送信します。
  8. 使用したいチャットまたはプリセットのワークフローにルートを紐付けます。

FAQ

OpenAI互換APIとは何ですか?

OpenAIスタイルのリクエストおよびレスポンスのパターンに従うエンドポイントのことで、一般的には /chat/completions を含みます。

ローカルサーバーを使用できますか?

はい、サーバーが互換性のあるAPIを公開しており、ベースURLとモデルの設定が正しければ使用可能です。

Tavern StudioはプロバイダーのAPIキーをバイパス(回避)しますか?

いいえ。プロバイダーから提供された有効な資格情報(認証情報)またはご自身のローカルサービスを使用してください。

エンドポイントへの接続が失敗するのはなぜですか?

一般的な原因としては、誤ったベースURL、/v1 の不足、誤ったモデルID、無効なキー、プロキシの問題、またはプロバイダー固有の仕様の違いなどが挙げられます。

1つのキャラクターで複数のエンドポイントを使用できますか?

チャットやモデルの設定、およびプリセットを変更することで、同じキャラクターを異なるルートでテストすることができます。

次のステップ

Tavern Studio をダウンロード
Windows