Configurez votre première API

Pour générer des réponses, Tavern Studio a besoin d'un backend de modèle. Ce guide explique comment connecter une API cloud ou un point de terminaison compatible OpenAI.

À qui s'adresse-t-il

  • Utilisateurs souhaitant utiliser des modèles cloud tels que des services compatibles OpenAI.
  • Les utilisateurs voient des erreurs de connexion ou des listes de modèles manquantes.
  • Les utilisateurs qui souhaitent attribuer différents itinéraires modèles à différentes discussions.

Ce que vous apprendrez

  • Que signifient l'URL de base, la clé API et le nom du modèle.
  • Comment fonctionnent les API compatibles OpenAI.
  • Comment dépanner les échecs de connexion courants.
  • Comment les remplacements de modèles au niveau du chat s'intègrent dans le flux de travail.

Pourquoi configurer une API ?

Tavern Studio gère vos personnages et le contexte de l'invite, mais un backend de modèle génère le texte. La connexion API indique à Tavern Studio où envoyer l'invite et quel modèle doit répondre.

[!WARNING]> Les clés API sont des informations d'identification privées. Ne les partagez pas dans des captures d'écran, des journaux ou des publications publiques.

Types de fournisseurs courants

  • Fournisseurs de cloud officiels : services pour lesquels vous disposez d'un compte direct et d'une clé API.
  • Passerelles tierces : services qui exposent un point de terminaison d'API compatible.
  • API compatibles OpenAI : un protocole commun utilisé par de nombreux services de modèles cloud et locaux.

Clé, URL et modèle

Ouvrez Paramètres, recherchez la section API et configurez :

  1. Fournisseur : choisissez le type de fournisseur.
  2. URL de base : saisissez l'URL du point de terminaison.
  3. Clé API : collez votre clé privée.
  4. Actualiser les modèles : charger les modèles disponibles.
  5. Modèle : choisissez le modèle pour le chat.

Si le fournisseur est compatible mais que la liste des modèles ne se charge pas, vous pourrez peut-être toujours saisir manuellement un nom de modèle si la version de l'application le prend en charge.

Remplacements au niveau du chat

Les paramètres globaux de l'API définissent le backend par défaut. Les discussions individuelles peuvent remplacer le modèle ou l'itinéraire via les paramètres de discussion, ce qui est utile lorsque différents personnages ont besoin de modèles ou de coûts différents.

Dépannage des échecs de connexion

Vérifiez l'URL de base

Certains fournisseurs exigent/v1, tandis que d'autres l'incluent déjà. Évitez de dupliquer ou d’omettre le chemin requis.

Vérifiez les paramètres réseau et proxy

Si votre réseau ne peut pas atteindre le fournisseur, configurez un proxy si votre environnement l'exige.

Vérifier le quota du compte

Des crédits d'essai expirés ou un solde insuffisant peuvent entraîner des erreurs d'authentification ou de quota même lorsque la clé est correcte.


##FAQ

Pourquoi puis-je actualiser les modèles mais le chat échoue toujours ?

Le modèle sélectionné peut ne pas être disponible pour la génération de chat ou le nom du modèle peut différer de celui attendu par le fournisseur.

Puis-je saisir manuellement le nom d'un modèle ?

Utilisez la liste de modèles lorsque cela est possible. Les noms de modèles manuels doivent correspondre à l’identifiant exact du fournisseur.

Pourquoi le comportement a-t-il changé après avoir changé de modèle ?

Différents modèles réagissent différemment à la même invite et au même préréglage. Vérifiez votre préréglage après avoir changé de modèle.


Étapes suivantes