Основы пресетов
Пресеты управляют тем, как именно модель формулирует ответы. Они объединяют параметры генерации текста и структуру промпта, позволяя повторно использовать выбранный стиль в разных чатах.
Кому это подходит
- Пользователям, у которых ответы модели кажутся однообразными, слишком короткими или несвязными.
- Пользователям, желающим разобраться, за что отвечают параметры Temperature, Top P и Min P.
- Пользователям, которым требуются разные настройки генерации для определенных персонажей или моделей.
Чему вы научитесь
- Что представляет собой пресет.
- Как ключевые параметры сэмплирования влияют на ролевую игру.
- Как управлять глобальными пресетами.
- Как переопределить настройки пресета для конкретного чата.
Ключевые параметры сэмплирования
1. Temperature
Температура (Temperature) регулирует случайность генерации. Более высокие значения делают ответы творческими и непредсказуемыми, однако слишком высокие показатели могут приводить к грамматическим ошибкам или бессмысленному тексту.
2. Min P
Параметр Min P отсекает токены с низкой вероятностью относительно самого вероятного токена. Это помогает сохранять креативность модели, одновременно снижая вероятность генерации бессвязного бреда.
3. Top P и Top K
Top P и Top K ограничивают пул токенов-кандидатов. Если вы используете Min P, то ограничения Top P можно сделать менее строгими, если только вашей модели не требуется более жесткая фильтрация.
4. Максимальное количество токенов ответа (Max Response Tokens)
Этот параметр задает максимальную длину одного ответа модели. Увеличьте его, если вам нужны развернутые ответы, подробные описания сцен или художественная проза.
Управление и переключение пресетов
1. Глобальное управление пресетами
Открыть раздел «Пресеты» (Presets), чтобы создавать, дублировать, импортировать и редактировать конфигурации пресетов.
2. Переопределение пресетов на уровне чата
Открыть «Настройки чата» (Chat Settings) для назначения конкретного пресета персонажу или диалогу, если их поведение должно отличаться от глобального пресета по умолчанию.
FAQ
Почему повышение температуры ухудшило качество ответов?
Выбранное значение может быть слишком большим для данной модели. Понизьте температуру и попробуйте задействовать Min P для фильтрации нестабильных токенов.
Почему изменения в моем пресете не повлияли на текущий чат?
Возможно, для этого чата настроено индивидуальное переопределение пресета. Проверьте «Настройки чата» (Chat Settings) для этого диалога.
Почему модель постоянно повторяется?
Попробуйте скорректировать настройки штрафа за повторения (repetition penalty), длину ответа и структуру промпта. Также стоит учитывать, что некоторые модели склонны к повторениям сильнее других.
Что дальше
- Руководство по локальным моделям GGUF: используйте пресеты при работе с локальными моделями.
- Миграция из SillyTavern: импортируйте существующие пресеты.
- Резервное копирование и восстановление: защитите настроенные пресеты.