Gestionnaire de presets et de prompts dans Tavern Studio
Le preset est l'emplacement idéal pour définir le comportement du modèle. Il contient le texte du prompt système, les paramètres de génération, les limites de contexte et les règles d'ordonnancement des prompts. Centraliser ces configurations sous forme de presets évite que chaque carte de personnage ne devienne une copie répétitive des mêmes instructions de modèle.
Tavern Studio traite les presets et l'assemblage des prompts comme des composants essentiels du flux de discussion. Les fiches de personnage définissent l'identité de l'interlocuteur. Les livres de lore apportent les connaissances d'arrière-plan sur l'univers. Les presets définissent quant à eux la manière dont le modèle génère ses réponses.
À qui cela s'adresse
- Aux utilisateurs de SillyTavern disposant de presets existants.
- Aux écrivains qui alternent entre styles concis, descriptifs ou riches en dialogues.
- Aux utilisateurs d'une application LLM locale qui ajustent la température, les limites de jetons (tokens) et la taille du contexte.
- Aux utilisateurs d'API ayant besoin de paramètres distincts selon les différents fournisseurs.
Concepts clés
La gestion des presets ne repose pas sur des astuces de contournement, mais vise à obtenir un comportement de modèle prévisible et reproductible. Un preset performant inclut les paramètres d'échantillonnage, la longueur des réponses, l'allocation du contexte, les instructions système et l'ordonnancement des différents segments du prompt.
L'assemblage du prompt dans Tavern Studio combine le prompt système, les données de personnage, les informations World Info, l'historique de chat et les paramètres de génération avant de transmettre la requête. Pour les API de type OpenAI, cet ensemble est traduit sous forme de tableaux de messages structurés plutôt que sous forme d'une unique chaîne de texte brut.
La solution Tavern Studio
Tavern Studio prend en charge l'importation de presets et l'édition locale des configurations. L'ordre des prompts fait partie de la logique interne du produit : le système d'assemblage gère l'expansion des macros, l'ordre des segments, l'injection d'informations World Info et les limites de contexte.
Cette approche rend les presets réutilisables. Un même personnage peut être testé avec un preset de modèle local, puis avec un preset d'API cloud, sans avoir à modifier sa carte.
Étapes d'utilisation
- Créez ou importez un preset.
- Définissez le prompt système et les paramètres de génération.
- Vérifiez la longueur du contexte et les limites de jetons de réponse.
- Choisissez l'ordre des prompts si le preset propose cette option.
- Associez le preset à un chat.
- Envoyez un message de test.
- Ajustez le preset de manière globale plutôt que de modifier chaque carte de personnage individuellement.
FAQ
Qu'est-ce qu'un preset ?
Un preset est un profil de comportement de modèle réutilisable, regroupant les prompts, les paramètres de génération, les limites de contexte et leur ordre d'insertion.
Un preset est-il identique à une carte de personnage ?
Non. Une carte de personnage définit l'identité et le scénario. Un preset définit quant à lui le comportement de génération du modèle.
Puis-je importer des presets SillyTavern ?
Oui. Tavern Studio prend en charge l'importation de presets et de fichiers JSON issus de workflows compatibles.
Les prompts doivent-ils inclure des instructions de contournement non sécurisées ?
Non. Le flux de travail des presets de Tavern Studio est conçu pour héberger des prompts système standards, gérer le formatage, le style et le contrôle de génération.
Différentes discussions peuvent-elles utiliser différents presets ?
Oui. Chaque chat peut être configuré de manière indépendante avec des presets et des connexions de modèles distincts.
Étapes suivantes
- Importez des configurations existantes grâce à notre guide pour Importer des presets et des fichiers JSON.
- Renseignez-vous sur la Configuration d'une API compatible OpenAI.
- Associez vos presets avec le Livre de lore et Lorebook.