最初のAPI設定
応答を生成するには、Tavern Studioにモデルバックエンドが必要です。このガイドでは、クラウドAPIまたはOpenAI互換エンドポイントの接続方法について説明します。
対象読者
- OpenAI互換サービスなどのクラウドモデルを使用したいユーザー。
- 接続エラーが表示される、またはモデルリストが読み込まれないユーザー。
- チャットごとに異なるモデルルートを割り当てたいユーザー。
本書で学べること
- ベースURL(Base URL)、APIキー(API Key)、モデル名(Model Name)の意味。
- OpenAI互換APIの仕組み。
- 一般的な接続エラーのトラブルシューティング方法。
- チャット単位のモデル上書き(オーバーライド)の仕組み。
なぜAPIを設定するのか?
Tavern Studioはキャラクターやプロンプトのコンテキストを管理しますが、テキストを生成するのはモデルバックエンドです。API接続によって、Tavern Studioはプロンプトをどこに送信し、どのモデルが応答すべきかを認識します。
主なプロバイダーの種類
- 公式クラウドプロバイダー:アカウントとAPIキーを直接所有しているサービス。
- サードパーティゲートウェイ:互換性のあるAPIエンドポイントを提供する中継サービス。
- OpenAI互換API:多くのクラウドおよびローカルモデルサービスで採用されている共通のプロトコル。
APIキー、URL、モデル
設定(Settings)を開き、APIセクションを見つけて以下を構成します:
- プロバイダー(Provider):プロバイダーの種類を選択します。
- ベースURL(Base URL):エンドポイントのURLを入力します。
- APIキー(API Key):プライベートキーを貼り付けます。
- モデル一覧の更新(Refresh Models):利用可能なモデルを読み込みます。
- モデル(Model):チャットで使用するモデルを選択します。
プロバイダーに互換性があるにもかかわらずモデルリストが読み込まれない場合、アプリのバージョンがサポートしていれば、モデル名を手動で入力できる場合があります。
チャット単位の上書き(オーバーライド)
グローバルなAPI設定はデフォルトのバックエンドを定義します。個々のチャットは、チャット設定(Chat Settings)を通じてモデルやルートを上書きできます。これは、キャラクターごとに異なるモデルやコストを使い分けたい場合に便利です。
接続失敗のトラブルシューティング
ベースURLを確認する
一部のプロバイダーはURLの末尾に /v1 を必要としますが、すでに含まれているプロバイダーもあります。必要なパスの重複や省略がないか確認してください。
ネットワークとプロキシ設定を確認する
ネットワークがプロバイダーに到達できない場合は、環境の要件に応じてプロキシを設定してください。
アカウントの残高・クォータを確認する
無料枠の期限切れや残高不足は、キーが正しくても認証エラーやクォータエラーの原因になります。
FAQ
モデルの更新はできるのにチャットが失敗するのはなぜですか?
選択したモデルがチャット生成に対応していないか、モデル名がプロバイダーの想定するものと異なっている可能性があります。
モデル名を手動で入力できますか?
可能な限りモデルリストから選択してください。手動で入力するモデル名は、プロバイダーの正確な識別子と一致させる必要があります。
モデルを変更した後に挙動が変わったのはなぜですか?
モデルが異なると、同じプロンプトやプリセットに対しても異なる応答を返します。モデルを変更した後は、プリセットを見直してください。
次のステップ
- 最初のチャットを開始:実際の会話でモデルをテストします。
- プリセットの基本:生成動作をチューニングします。
- ローカルGGUFモデルガイド:ローカルでのモデル実行を試します。