プリセットの基本
プリセットはモデルの文章生成を制御します。生成パラメータとプロンプトの構造を組み合わせることで、特定のスタイルを複数のチャットで再利用できます。
対象読者
- 返答が単調、短すぎる、または支離滅裂に感じられるユーザー。
- 温度(Temperature)、Top P、およびMin Pについて理解したいユーザー。
- キャラクターやモデルごとに異なる設定を適用したいユーザー。
本書で学べること
- プリセットとは何か。
- 一般的なサンプリングパラメータがロールプレイに与える影響。
- グローバルプリセットの管理方法。
- 特定のチャットに対してプリセットを上書きする方法。
主なサンプリングパラメータ
1. 温度(Temperature)
温度はランダム性を制御します。値を大きくすると返答がよりクリエイティブになりますが、大きすぎると出力が不安定になったり、意味をなさなくなったりします。
2. Min P
Min Pは、最も確率の高いトークンに対する相対値に基づいて、確率の低いトークンをフィルタリングします。一貫性のない出力を減らしながら、クリエイティビティ(創造性)を維持するのに役立ちます。
3. Top P と Top K
Top PとTop Kは、候補となるトークンプールを制限します。Min Pが有効な場合は、モデルがより厳密なフィルタリングを必要としない限り、Top Pの制限を緩やかに維持してもよいでしょう。
4. 最大応答トークン数(Max Response Tokens)
1回の応答の長さを制御します。より長い文章や詳細なシーン描写を求める場合は、この値を増やします。
プリセットの管理と切り替え
1. グローバルプリセット管理
「プリセット(Presets)」エリアを開き、プリセット構成の新規作成、複製、インポート、および編集を行います。
2. チャット単位のプリセット上書き
グローバルのデフォルトと異なる動作をさせたい場合は、チャット設定(Chat Settings)を開き、特定のプリセットをキャラクターまたは会話に割り当てます。
FAQ
温度(Temperature)を高くしたら返答の質が落ちたのはなぜですか?
設定した値がモデルに対して高すぎる可能性があります。温度を下げ、Min Pを併用して不安定なトークンを削減することを検討してください。
プリセットの変更が現在のチャットに反映されないのはなぜですか?
そのチャットでプリセットの上書きが設定されている可能性があります。該当する会話のチャット設定(Chat Settings)を確認してください。
モデルが同じ言葉を繰り返すのはなぜですか?
繰り返し(Repetition)関連の設定、応答の長さ、およびプロンプトの構造を調整してみてください。また、モデル自体が繰り返しを行いやすい性質を持っている場合もあります。
次のステップ
- ローカルGGUFモデルガイド:プリセットをローカルモデルと組み合わせます。
- SillyTavernからの移行:既存のプリセットアセットをインポートします。
- バックアップと復元:調整したプリセットを保護します。