Vooraf ingestelde basisprincipes
Voorinstellingen bepalen hoe het model schrijft. Ze combineren generatieparameters en promptstructuur, zodat u een stijl in chats kunt hergebruiken.
Voor wie is dit bedoeld
- Gebruikers wier antwoorden repetitief, te kort of te chaotisch aanvoelen.
- Gebruikers die Temperatuur, Top P en Min P willen begrijpen.
- Gebruikers die verschillende instellingen nodig hebben voor verschillende karakters of modellen.
Wat je gaat leren
- Wat een voorinstelling is.
- Hoe algemene samplingparameters het rollenspel beïnvloeden.
- Hoe u globale voorinstellingen beheert.
- Hoe u voorinstellingen voor een specifieke chat kunt overschrijven.
Belangrijke bemonsteringsparameters
1. Temperatuur
Temperatuur controleert willekeur. Hogere waarden kunnen antwoorden creatiever maken, maar te hoge waarden kunnen onstabiele of onzinnige uitvoer veroorzaken.
2. Min P
Min P filtert tokens met een lage waarschijnlijkheid ten opzichte van het meest waarschijnlijke token. Het kan helpen de creativiteit te behouden en tegelijkertijd de onsamenhangende output te verminderen.
3. Top-P en Top-K
Top P en Top K beperken de kandidaat-tokenpool. Als Min P actief is, kunt u Top P minder beperkend houden, tenzij uw model baat heeft bij strengere filtering.
4. Maximale responstokens
Dit bepaalt hoe lang een enkele reactie mag duren. Verhoog het voor langer proza of gedetailleerd scèneschrijven.
Beheer en schakel voorinstellingen
1. Globaal voorinstellingenbeheer
Open Voorinstellingen om voorinstellingen te maken, dupliceren, importeren en bewerken.
2. Voorinstellingen op chatniveau overschrijven
Open Chatinstellingen om een specifieke voorinstelling toe te wijzen aan een personage of gesprek wanneer dit zich anders zou moeten gedragen dan de algemene standaard.
Veelgestelde vragen
Waarom maakte een hogere temperatuur het antwoord slechter?
De waarde is mogelijk te hoog voor het model. Verlaag het en overweeg om Min P te gebruiken om onstabiele tokens te verminderen.
Waarom hadden mijn vooraf ingestelde wijzigingen geen invloed op de huidige chat?
De chat kan een vooraf ingestelde overschrijving hebben. Controleer de chatinstellingen voor dat gesprek.
Waarom herhaalt het model zichzelf?
Probeer de herhalingsgerelateerde instellingen, de responslengte en de promptstructuur aan te passen. Sommige modellen herhalen ook meer dan andere.
Volgende stappen
- Lokale GGUF-modelgids: koppel presets met lokale modellen.
- SillyTavern Migration: importeer bestaande vooraf ingestelde assets.
- Back-up en herstel: bescherm uw afgestemde presets.