Менеджер пресетов и системных промптов в Tavern Studio
Пресет — это место, где настраивается поведение модели. Он может содержать текст системного промпта, параметры генерации (сэмплирования), лимиты контекста и правила упорядочивания промптов. Вынос этих настроек в пресеты предотвращает превращение каждой карточки персонажа в копию одних и тех же инструкций для модели.
Tavern Studio рассматривает пресеты и сборку промптов как ключевую часть рабочего процесса чата. Карточки персонажей определяют, кто говорит. Книги мира (лорбуки) определяют фоновые знания. Пресеты определяют, как именно модель должна генерировать ответ.
Для кого это руководство
- Пользователи SillyTavern с готовыми пресетами.
- Авторы, переключающиеся между лаконичным, описательным или насыщенным диалогами стилями.
- Пользователи локальных LLM, настраивающие температуру, лимиты токенов и размер контекста.
- Пользователи API, которым требуются разные настройки для разных провайдеров.
Основное содержание
Управление пресетами направлено на обеспечение стабильного и предсказуемого поведения модели. Полезный пресет может включать настройки сэмплирования, длину ответа, лимит контекста, системные инструкции и порядок сегментов промпта.
Сборщик промптов Tavern Studio объединяет системный промпт, данные персонажа, World Info, историю чата и настройки генерации перед отправкой запроса. Для API в стиле OpenAI это может быть представлено в виде структурированных массивов сообщений, а не одной сплошной строки промпта.
Как Tavern Studio обрабатывает это
Tavern Studio поддерживает импорт пресетов и их локальное редактирование. Порядок промптов является частью внутренней логики продукта: сборщик координирует раскрытие макросов, порядок сегментов, внедрение World Info и ограничения контекста.
Это делает пресеты многоразовыми. Персонажа можно протестировать сначала с одним пресетом для локальной модели, а затем с другим пресетом для облачного API, не меняя при этом саму карточку.
Шаги по настройке
- Создать или импортировать пресет.
- Настроить системный промпт и параметры генерации.
- Проверить размер контекста и лимиты токенов ответа.
- Выбрать порядок промптов, если пресет позволяет это настроить.
- Привязать пресет к чату.
- Отправить тестовое сообщение.
- Редактировать сам пресет вместо внесения изменений в каждую карточку персонажа.
FAQ
Что такое пресет?
Пресет — это многоразовый профиль поведения модели, содержащий промпты, параметры сэмплирования, лимиты контекста и порядок сегментов.
Является ли пресет тем же самым, что и карточка персонажа?
Нет. Карточка персонажа определяет личность и сценарий. Пресет определяет поведение генерации модели.
Можно ли импортировать пресеты SillyTavern?
Да. Tavern Studio поддерживает импорт пресетов и JSON-ресурсов из совместимых приложений.
Должны ли промпты содержать инструкции по обходу ограничений (джейлбрейк)?
Нет. Процесс работы с пресетами в Tavern Studio предназначен для стандартных системных промптов, форматирования, стиля и контроля генерации.
Могут ли разные чаты использовать разные пресеты?
Да. Разные чаты могут быть привязаны к разным пресетам и подключениям моделей.
Следующий шаг
- Импортировать готовые пресеты по инструкции Импорт пресетов и JSON-ресурсов.
- Ознакомиться с руководством Настройка OpenAI-совместимого API.
- Связать пресеты с Лорбук и книга мира.