Client de chat API cloud pour Tavern Studio

Tavern Studio privilégie le local, mais ne s'y limite pas. Vous pouvez utiliser des API cloud lorsque vous souhaitez exploiter des modèles hébergés plus volumineux, obtenir une inférence à distance plus rapide ou utiliser des fonctionnalités spécifiques à un fournisseur. Tout est une question de choix : optez pour une application LLM locale pour vos flux de travail privés ou hors ligne, et utilisez des API cloud lorsqu'elles s'adaptent mieux à vos besoins.

Les mêmes cartes de personnage, données World Info, presets et flux de discussion s'appliquent à l'une ou l'autre de ces options.

À qui cela s'adresse

• Aux utilisateurs qui préfèrent les modèles hébergés pour leur qualité ou leur rapidité.
• Aux écrivains qui comparent les résultats entre modèles locaux et modèles cloud.
• Aux équipes utilisant OpenAI, Claude, Gemini, OpenRouter ou des points de terminaison personnalisés compatibles.
• Aux utilisateurs qui recherchent un espace de travail de chat plus riche qu'une simple console de fournisseur.

Concepts clés

Les API cloud sont puissantes, mais elles modifient la gestion de la confidentialité et des coûts. Les requêtes sont transmises au fournisseur que vous configurez. La gestion des clés API et le respect des conditions générales de chaque fournisseur sont essentiels. Le stockage local de vos données dans Tavern Studio ne signifie pas que vos requêtes cloud restent locales.

Conservez des routes de modèles explicites. Évitez de masquer le routage cloud à l'intérieur des descriptions de personnages.

La solution Tavern Studio

Tavern Studio prend en charge la configuration des modèles cloud, notamment OpenAI, Claude, Gemini, OpenRouter et les points de terminaison personnalisés compatibles. Certains fournisseurs utilisent des structures de requêtes basées sur une API compatible OpenAI, tandis que d'autres s'appuient sur des API spécifiques.

Les paramètres importés depuis une autre alternative à SillyTavern peuvent être mappés automatiquement pour les services les plus courants, mais les routes personnalisées doivent faire l'objet d'une révision manuelle.

Étapes d'utilisation

1. Ouvrez les paramètres des modèles et des API.
2. Ajoutez la route du fournisseur cloud.
3. Saisissez l'URL de base, la clé API et l'identifiant du modèle lorsque cela est requis.
4. Enregistrez et effectuez un test avec un prompt court.
5. Associez un preset adapté au fournisseur configuré.
6. Lancez un chat de personnage.
7. Évaluez l'impact sur la confidentialité et les coûts avant d'entamer de longues sessions.

FAQ

Tavern Studio est-il réservé uniquement aux applications LLM locales ?

Non. Il prend en charge à la fois les modèles locaux et les API cloud.

L'utilisation des API cloud affecte-t-elle la confidentialité ?

Oui. Les requêtes sont envoyées au fournisseur que vous avez configuré. Nous vous invitons à consulter la politique de confidentialité de ce fournisseur.

Puis-je utiliser OpenRouter ?

Oui, via la configuration d'une API cloud ou personnalisée prise en charge.

Puis-je utiliser Gemini ou Claude ?

Oui. Tavern Studio prend en charge d'autres routes cloud en dehors des points de terminaison basés sur une API compatible OpenAI.

Les modèles cloud et locaux peuvent-ils partager la même carte de personnage ?

Oui. La même carte de personnage peut être utilisée avec différentes routes de modèles et différents presets.

Étapes suivantes

• Configurez des points de terminaison compatibles dans Configuration d'une API compatible OpenAI.
• Utilisez des modèles locaux avec le guide sur l'Application LLM locale.
• Examinez vos options de données dans Client de chat IA privé.