Tavern StudioでローカルLLMアプリのモデルをダウンロードする
ローカルモデルをダウンロードすることは、クラウドモデルの名前を選択することとは異なります。デバイスに実際のファイルを追加するため、ストレージ、メモリ、速度、およびデバイスの性能がすべて重要になります。
Tavern Studioはローカルモデルのワークフローをサポートしており、アプリを単なるAPIラッパーにすることなく、プライベートAIチャットクライアントとしてオフライン対応のチャットを実行できます。
対象読者
- 別途チャットUIを管理することなく、ローカルLLMを使用したいユーザー
- GGUFモデルを選択するWindowsユーザー
- オンデバイスモデルの限界をテストしたいAndroidユーザー
- プライベートなキャラクターチャットを望むライター
コアコンセプト
モデルをダウンロードする前に、サイズと想定されるハードウェア要件を確認してください。日常的な使用においては、かろうじて動作するような巨大なモデルよりも、軽量な量子化モデルの方が適している場合があります。
また、目的についても考慮してください。キャラチャット、文章作成、要約、指示追従（インストラクション）など、モデルによって得意とするタスクが異なります。
Tavern Studioにおける処理方法
Tavern Studioでは、ダウンロードまたはインポートされたモデルが、プリセットやチャットと同じワークスペース内に保存されます。モデルが利用可能になると、接続ルートとして選択し、プリセットを適用して、キャラカード（キャラクターカード）やWorld Info（世界観設定）と組み合わせて使用できます。
モデルのダウンロードはローカルファーストの運用の基本ですが、必要に応じてクラウドAPIも引き続き利用可能です。
操作手順
- Windowsでのローカル推論、Androidでのローカル推論、またはその両方が必要かを決定します。
- ストレージとメモリに収まるモデルサイズを選択します。
- Tavern Studio内でモデルをダウンロードまたはインポートします。
- モデル設定でダウンロードしたモデルを選択します。
- 短いテストプロンプトを実行します。
- 控えめなコンテキストサイズ（設定値）でキャラクターチャットを試します。
- 重要なキャラカードやチャットログのバックアップは、モデルファイルとは別に保管してください。
よくある質問（FAQ）
Tavern Studio内でモデルをダウンロードできますか？
はい。Tavern Studioはローカルモデルのダウンロードおよびインポートのワークフローをサポートしています。
ローカルモデルは多くのストレージ容量を必要としますか？
容量が必要になる場合があります。ダウンロードする前にモデルのファイルサイズを確認してください。
サイズの大きいモデルの方が常に優れていますか？
いいえ。使用しているデバイスに対して動作が遅すぎるモデルは、日常的な使用には適していません。
後からモデルを削除することはできますか？
モデルのストレージは、コアとなるキャラクターデータやチャットデータとは別に管理する必要があります。削除する前に、アプリのストレージ管理ツールを確認してください。
引き続きOpenAIやClaudeを使用できますか？
はい。Tavern StudioはローカルモデルとクラウドAPIの両方をサポートしています。
次のステップ
- GGUFモデルのインポートでファイルをインポートする。
- クラウドAPIチャットクライアントでクラウドモデルをセットアップする。
- プライベートAIチャットクライアントでプライバシーのトレードオフを確認する。