Nozioni di base sulle preimpostazioni
Le preimpostazioni controllano il modo in cui scrive il modello. Combinano parametri di generazione e struttura dei prompt in modo da poter riutilizzare uno stile nelle chat.
Per chi è questo
- Utenti le cui risposte sembrano ripetitive, troppo brevi o troppo caotiche.
- Utenti che desiderano comprendere la temperatura, la P superiore e la P minima.
- Utenti che necessitano di impostazioni diverse per personaggi o modelli diversi.
Cosa imparerai
- Cos'è un preset.
- In che modo i parametri di campionamento comuni influenzano il gioco di ruolo.
- Come gestire i preset globali.
- Come sovrascrivere le preimpostazioni per una chat specifica.
Parametri chiave di campionamento
1. Temperatura
La temperatura controlla la casualità. Valori più alti possono rendere le risposte più creative, ma un valore troppo alto può causare un output instabile o privo di senso.
2. Min P
Min P filtra i token a bassa probabilità rispetto al token più probabile. Può aiutare a preservare la creatività riducendo al contempo la produzione incoerente.
3. Top P e Top K
Top P e Top K limitano il pool di token candidati. Se Min P è attivo, puoi mantenere Top P meno restrittivo a meno che il tuo modello non tragga vantaggio da un filtro più rigoroso.
4. Token di risposta massimi
Questo controlla quanto può durare una singola risposta. Aumentalo per una prosa più lunga o per la scrittura di scene dettagliate.
Gestisci e cambia i preset
1. Gestione dei preset globali
Apri Preimpostazioni per creare, duplicare, importare e modificare le configurazioni preimpostate.
2. Sostituzioni preimpostate a livello di chat
Apri le Impostazioni chat per assegnare una preimpostazione specifica a un personaggio o a una conversazione quando dovrebbe comportarsi in modo diverso rispetto all'impostazione predefinita globale.
Domande frequenti
Perché la temperatura più alta ha peggiorato la risposta?
Il valore potrebbe essere troppo alto per il modello. Abbassalo e considera l'utilizzo di Min P per ridurre i token instabili.
Perché le modifiche alle mie preimpostazioni non hanno influito sulla chat corrente?
La chat potrebbe avere un override preimpostato. Controlla le impostazioni della chat per quella conversazione.
Perché il modello si ripete?
Prova a modificare le impostazioni relative alla ripetizione, la lunghezza della risposta e la struttura dei prompt. Alcuni modelli si ripetono anche più di altri.
Passaggi successivi
- Guida al modello GGUF locale: abbina i preset ai modelli locali.
- Migrazione SillyTavern: importa risorse preimpostate esistenti.
- Backup e ripristino: proteggi i tuoi preset sintonizzati.