Tavern StudioにおけるOpenAI互換API設定方法
OpenAI互換APIの設定には、通常、ベースURL、必要に応じたAPIキーまたはトークン、およびモデルIDの3つが必要です。AIロールプレイに最適なローカルLLMアプリであるTavern Studioでは、このプロバイダー設定をキャラカードやプリセットとは切り離して保持するため、キャラクターを書き換えることなくモデルのルートを切り替えることができます。
多くのプロバイダーやローカルサーバーが、OpenAIスタイルの /chat/completions APIを公開しています。一部対応していない場合もあるため、常にプロバイダーのドキュメントを確認してください。
対象読者
- OpenAI互換のクラウドサービスを接続するユーザー
- ローカルモデルサーバーを使用する開発者
- プライベートAIチャットクライアントでカスタムゲートウェイやリバースプロキシを使用している方
- API設定を移行するSillyTavernのユーザー
主な内容
OpenAI互換エンドポイントは、一般的にベアラートークン認証を使用し、model と messages を含むチャット完了(chat completions)のボディを使用します。ローカルサーバーではAPIキーを省略できる場合があります。カスタムゲートウェイでは、独自のヘッダー、アカウントID、またはパスが追加される場合があります。
プロバイダーの詳細情報をキャラクターカード内に保存しないでください。キャラクター、プリセット、およびモデルルートは個別に管理してください。
Tavern Studioにおける処理方法
Tavern StudioはOpenAI互換API設定をサポートしており、SillyTavernからの移行時に一般的なサービスをマッピングできます。カスタムエンドポイント、ローカルサービス、リバースプロキシ、Azure OpenAI、Cloudflare Workers AI、ベースURLの不足、またはデフォルトモデルの不足がある場合は、手動での設定が必要になることがあります。
プロンプトアセンブラーは、プロンプトエンジニアリングを容易にし、OpenAIスタイルのルート向けに構造化されたメッセージ配列を作成できます。
操作手順
- APIまたはモデルの接続設定を開きます。
- OpenAI互換ルートを選択します。
- ベースURLを入力します。
- エンドポイントで必要な場合は、APIキーを入力します。
- モデルIDを入力または選択します。
- 接続を保存します。
- 短いテストメッセージを送信します。
- 使用したいチャットまたはプリセットのワークフローにルートを紐付けます。
FAQ
OpenAI互換APIとは何ですか?
OpenAIスタイルのリクエストおよびレスポンスのパターンに従うエンドポイントのことで、一般的には /chat/completions を含みます。
ローカルサーバーを使用できますか?
はい、サーバーが互換性のあるAPIを公開しており、ベースURLとモデルの設定が正しければ使用可能です。
Tavern StudioはプロバイダーのAPIキーをバイパス(回避)しますか?
いいえ。プロバイダーから提供された有効な資格情報(認証情報)またはご自身のローカルサービスを使用してください。
エンドポイントへの接続が失敗するのはなぜですか?
一般的な原因としては、誤ったベースURL、/v1 の不足、誤ったモデルID、無効なキー、プロキシの問題、またはプロバイダー固有の仕様の違いなどが挙げられます。
1つのキャラクターで複数のエンドポイントを使用できますか?
チャットやモデルの設定、およびプリセットを変更することで、同じキャラクターを異なるルートでテストすることができます。
次のステップ
- クラウドAPIチャットクライアントでクラウドのルーティングを比較する。
- WindowsでローカルLLMを実行するでローカルの代替案を利用する。
- プリセットおよびプロンプトマネージャーで生成時の挙動を管理する。