Voreingestellte Grundlagen
Voreinstellungen steuern, wie das Modell schreibt. Sie kombinieren Generierungsparameter und Eingabeaufforderungsstruktur, sodass Sie einen Stil in allen Chats wiederverwenden können.
Für wen das ist
- Benutzer, deren Antworten sich wiederholend, zu kurz oder zu chaotisch erscheinen.
- Benutzer, die Temperatur, Top P und Min P verstehen möchten.
- Benutzer, die unterschiedliche Einstellungen für unterschiedliche Charaktere oder Modelle benötigen.
Was Sie lernen werden
- Was ist eine Voreinstellung?
- Wie sich allgemeine Sampling-Parameter auf das Rollenspiel auswirken.
- So verwalten Sie globale Voreinstellungen.
- So überschreiben Sie Voreinstellungen für einen bestimmten Chat.
Wichtige Probenahmeparameter
1. Temperatur
Die Temperatur steuert den Zufall. Höhere Werte können die Antworten kreativer machen, aber zu hohe Werte können zu instabiler oder unsinniger Ausgabe führen.
2. Min. P
Min P filtert Token mit geringer Wahrscheinlichkeit im Verhältnis zum wahrscheinlichsten Token. Es kann dazu beitragen, die Kreativität zu bewahren und gleichzeitig inkohärente Ergebnisse zu reduzieren.
3. Top P und Top K
Top P und Top K begrenzen den Kandidaten-Token-Pool. Wenn „Min P“ aktiv ist, können Sie „Top P“ weniger restriktiv gestalten, es sei denn, Ihr Modell profitiert von einer strengeren Filterung.
4. Max-Response-Tokens
Dies steuert, wie lang eine einzelne Antwort sein kann. Erhöhen Sie den Wert für längere Prosa oder detailliertes Szenenschreiben.
Voreinstellungen verwalten und wechseln
1. Globale Preset-Verwaltung
Öffnen Sie Voreinstellungen, um voreingestellte Konfigurationen zu erstellen, zu duplizieren, zu importieren und zu bearbeiten.
2. Voreingestellte Überschreibungen auf Chat-Ebene
Öffnen Sie die Chat-Einstellungen, um einem Charakter oder einer Konversation eine bestimmte Voreinstellung zuzuweisen, wenn sie sich anders als die globale Standardeinstellung verhalten soll.
FAQ
Warum hat eine höhere Temperatur die Antwort verschlechtert?
Der Wert ist möglicherweise zu hoch für das Modell. Senken Sie den Wert und erwägen Sie die Verwendung von Min P, um instabile Token zu reduzieren.
Warum hatten meine voreingestellten Änderungen keinen Einfluss auf den aktuellen Chat?
Der Chat verfügt möglicherweise über eine voreingestellte Überschreibung. Überprüfen Sie die Chat-Einstellungen für diese Konversation.
Warum wiederholt sich das Modell?
Versuchen Sie, wiederholungsbezogene Einstellungen, Antwortlänge und Eingabeaufforderungsstruktur anzupassen. Einige Modelle wiederholen sich auch häufiger als andere.
Nächste Schritte
- Lokaler GGUF-Modellführer: Voreinstellungen mit lokalen Modellen koppeln.
- SillyTavern Migration: Vorhandene voreingestellte Assets importieren.
- Sichern und Wiederherstellen: Schützen Sie Ihre abgestimmten Voreinstellungen.