Noções básicas predefinidas
As predefinições controlam como o modelo escreve. Eles combinam parâmetros de geração e estrutura de prompt para que você possa reutilizar um estilo em chats.
Para quem é isso
- Usuários cujas respostas parecem repetitivas, muito curtas ou muito caóticas.
- Usuários que desejam entender temperatura, P superior e P mínimo.
- Usuários que precisam de configurações diferentes para personagens ou modelos diferentes.
O que você aprenderá
- O que é uma predefinição.
- Como os parâmetros de amostragem comuns afetam o roleplay.
- Como gerenciar predefinições globais.
- Como substituir predefinições para um bate-papo específico.
Principais parâmetros de amostragem
1. Temperatura
A temperatura controla a aleatoriedade. Valores mais altos podem tornar as respostas mais criativas, mas valores muito altos podem causar resultados instáveis ou sem sentido.
2. Min P
Min P filtra tokens de baixa probabilidade em relação ao token mais provável. Pode ajudar a preservar a criatividade e ao mesmo tempo reduzir resultados incoerentes.
3. Top P e Top K
Top P e Top K limitam o pool de tokens candidatos. Se Min P estiver ativo, você poderá manter Top P menos restritivo, a menos que seu modelo se beneficie de uma filtragem mais rígida.
4. Máximo de tokens de resposta
Isso controla quanto tempo uma única resposta pode durar. Aumente-o para uma prosa mais longa ou uma escrita de cena detalhada.
Gerencie e alterne predefinições
1. Gerenciamento global de predefinições
Abra Predefinições para criar, duplicar, importar e editar configurações predefinidas.
2. Substituições predefinidas no nível do bate-papo
Abra Configurações de bate-papo para atribuir uma predefinição específica a um personagem ou conversa quando ele deveria se comportar de maneira diferente do padrão global.
Perguntas frequentes
Por que a temperatura mais alta piorou a resposta?
O valor pode ser muito alto para o modelo. Reduza-o e considere usar Min P para reduzir tokens instáveis.
Por que minhas alterações predefinidas não afetaram o bate-papo atual?
O bate-papo pode ter uma substituição predefinida. Verifique as configurações de bate-papo dessa conversa.
Por que o modelo se repete?
Tente ajustar as configurações relacionadas à repetição, a duração da resposta e a estrutura do prompt. Alguns modelos também se repetem mais que outros.
##Próximas etapas
- Guia de modelo GGUF local: emparelhe predefinições com modelos locais.
- Migração SillyTavern: importe ativos predefinidos existentes.
- Backup e Restauração: proteja suas predefinições sintonizadas.