Configura tu primera API
Para generar respuestas, Tavern Studio necesita un backend de modelo. Esta guía explica cómo conectar una API en la nube o un endpoint compatible con OpenAI.
Para quién es esto
- Usuarios que desean utilizar modelos en la nube, como servicios compatibles con OpenAI.
- Usuarios que experimentan errores de conexión o listas de modelos vacías.
- Usuarios que desean asignar diferentes rutas de modelos a distintos chats.
Qué aprenderás
- Qué significan URL base (Base URL), Clave API (API Key) y Nombre del modelo.
- Cómo funcionan las APIs compatibles con OpenAI.
- Cómo solucionar fallos de conexión comunes.
- Cómo encajan las anulaciones de modelo a nivel de chat en el flujo de trabajo.
¿Por qué configurar una API?
Tavern Studio gestiona tus personajes y el contexto de los prompts, pero un backend de modelo se encarga de generar el texto. La conexión API le indica a Tavern Studio adónde enviar el prompt y qué modelo debe responder.
Tipos de proveedores comunes
- Proveedores oficiales en la nube: servicios en los que tienes una cuenta directa y una clave API.
- Pasarelas de terceros (Gateways): servicios que exponen un endpoint de API compatible.
- APIs compatibles con OpenAI: un protocolo común utilizado por muchos servicios de modelos en la nube y locales.
API Key, URL y modelo
Abre Settings (Ajustes), busca la sección de API y configura:
- Provider (Proveedor): elige el tipo de proveedor.
- Base URL (URL base): introduce la URL del endpoint.
- API Key (Clave API): pega tu clave privada.
- Refresh Models (Actualizar modelos): carga los modelos disponibles.
- Model (Modelo): elige el modelo para el chat.
Si el proveedor es compatible pero la lista de modelos no se carga, es posible que puedas introducir el nombre del modelo manualmente si la versión de la aplicación lo admite.
Anulaciones a nivel de chat
Los ajustes globales de la API definen el backend predeterminado. Los chats individuales pueden anular el modelo o la ruta a través de los Ajustes de chat (Chat Settings), lo cual resulta útil cuando diferentes personajes necesitan distintos modelos o costes.
Solución de problemas de fallos de conexión
Verifica la URL base
Algunos proveedores requieren /v1, mientras que otros ya lo incluyen. Evita duplicar u omitir la ruta requerida.
Verifica los ajustes de red y proxy
Si tu red no puede conectarse con el proveedor, configura un proxy si tu entorno lo requiere.
Verifica la cuota de la cuenta
Los créditos de prueba caducados o el saldo insuficiente pueden causar errores de autenticación o de cuota, incluso si la clave es correcta.
FAQ
¿Por qué puedo actualizar los modelos pero el chat sigue fallando?
Es posible que el modelo seleccionado no esté disponible para la generación de chat, o que el nombre del modelo difiera de lo que el proveedor espera.
¿Puedo escribir el nombre de un modelo manualmente?
Utiliza la lista de modelos siempre que sea posible. Los nombres de modelo ingresados manualmente deben coincidir exactamente con el identificador del proveedor.
¿Por qué cambió el comportamiento después de cambiar de modelo?
Diferentes modelos responden de manera distinta al mismo prompt y preset. Revisa tu preset después de cambiar de modelo.
Siguientes pasos
- Iniciar tu primer chat: prueba el modelo en una conversación real.
- Conceptos básicos sobre presets: ajusta el comportamiento de generación.
- Guía de modelos GGUF locales: prueba la ejecución de modelos locales.