Grundläggande förinställning
Förinställningar styr hur modellen skriver. De kombinerar genereringsparametrar och snabbstruktur så att du kan återanvända en stil över chattar.
Vem är detta till för
- Användare vars svar känns repetitiva, för korta eller för kaotiska.
- Användare som vill förstå Temperatur, Top P och Min P.
- Användare som behöver olika inställningar för olika karaktärer eller modeller.
Vad du kommer att lära dig
- Vad en förinställning är.
- Hur vanliga samplingsparametrar påverkar rollspel.
- Hur man hanterar globala förinställningar.
- Hur man åsidosätter förinställningar för en specifik chatt.
Viktiga samplingsparametrar
1. Temperatur
Temperaturen styr slumpmässigheten. Högre värden kan göra svar mer kreativa, men för höga kan orsaka instabil eller meningslös utdata.
2. Min P
Min P filtrerar tokens med låg sannolikhet i förhållande till den mest sannolika token. Det kan hjälpa till att bevara kreativiteten samtidigt som det minskar osammanhängande produktion.
3. Top P och Top K
Top P och Top K begränsar kandidatpoolen. Om Min P är aktivt kan du hålla Top P mindre restriktiv om inte din modell drar nytta av stramare filtrering.
4. Max svarstoken
Detta styr hur länge ett enskilt svar kan vara. Öka den för längre prosa eller detaljerad scenskrivning.
Hantera och växla förinställningar
1. Global förinställningshantering
Öppna förinställningar för att skapa, duplicera, importera och redigera förinställda konfigurationer.
2. Åsidosätter förinställda chattnivåer
Öppna Chattinställningar för att tilldela en specifik förinställning till en karaktär eller konversation när den ska bete sig annorlunda än den globala standarden.
Vanliga frågor
Varför gjorde högre temperatur svaret sämre?
Värdet kan vara för högt för modellen. Sänk den och överväg att använda Min P för att minska instabila tokens.
Varför påverkade inte mina förinställda ändringar den nuvarande chatten?
Chatten kan ha en förinställd åsidosättning. Kontrollera chattinställningarna för den konversationen.
Varför upprepar modellen sig?
Prova att justera repetitionsrelaterade inställningar, svarslängd och promptstruktur. Vissa modeller upprepar också mer än andra.
Nästa steg
- Local GGUF Model Guide: koppla ihop förinställningar med lokala modeller.
- SillyTavern Migration: importera befintliga förinställda tillgångar.
- Säkerhetskopiera och återställa: skydda dina inställda förinställningar.