Configure sua primeira API
Para gerar respostas, o Tavern Studio precisa de um backend modelo. Este guia explica como conectar uma API de nuvem ou um endpoint compatível com OpenAI.
Para quem é isso
- Usuários que desejam usar modelos de nuvem, como serviços compatíveis com OpenAI.
- Usuários vendo erros de conexão ou listas de modelos ausentes.
- Usuários que desejam atribuir diferentes rotas de modelo a diferentes chats.
O que você aprenderá
- O que significam URL base, chave de API e nome do modelo.
- Como funcionam as APIs compatíveis com OpenAI.
- Como solucionar falhas comuns de conexão.
- Como as substituições do modelo no nível do chat se ajustam ao fluxo de trabalho.
Por que configurar uma API?
O Tavern Studio gerencia seus personagens e o contexto do prompt, mas um backend modelo gera o texto. A conexão API informa ao Tavern Studio para onde enviar o prompt e qual modelo deve responder.
[!WARNING]> As chaves de API são credenciais privadas. Não os compartilhe em capturas de tela, registros ou postagens públicas.
Tipos de provedores comuns
- Provedores de nuvem oficiais: serviços onde você tem uma conta direta e uma chave de API.
- Gateways de terceiros: serviços que expõem um endpoint de API compatível.
- APIs compatíveis com OpenAI: um protocolo comum usado por muitos serviços de modelo local e de nuvem.
Chave, URL e modelo
Abra Configurações, encontre a seção API e configure:
- Provedor: escolha o tipo de provedor.
- URL base: insira o URL do endpoint.
- Chave API: cole sua chave privada.
- Atualizar modelos: carrega os modelos disponíveis.
- Modelo: escolha o modelo para chat.
Se o provedor for compatível, mas a lista de modelos não for carregada, você ainda poderá inserir um nome de modelo manualmente se a versão do aplicativo for compatível.
Substituições no nível do chat
As configurações globais da API definem o back-end padrão. Os bate-papos individuais podem substituir o modelo ou rotear pelas configurações de bate-papo, o que é útil quando personagens diferentes precisam de modelos ou custos diferentes.
Solução de problemas de falhas de conexão
Verifique o URL base
Alguns provedores exigem/v1, enquanto outros já o incluem. Evite duplicar ou omitir o caminho necessário.
Verifique as configurações de rede e proxy
Se a sua rede não conseguir alcançar o provedor, configure um proxy se o seu ambiente exigir um.
Verifique a cota da conta
Créditos de avaliação expirados ou saldo insuficiente podem causar erros de autenticação ou de cota, mesmo quando a chave está correta.
Perguntas frequentes
Por que posso atualizar modelos, mas o chat ainda falha?
O modelo selecionado pode não estar disponível para geração de chat ou o nome do modelo pode ser diferente do esperado pelo provedor.
Posso digitar o nome de um modelo manualmente?
Use a lista de modelos quando possível. Os nomes dos modelos manuais devem corresponder ao identificador exato do fornecedor.
Por que o comportamento mudou depois de trocar de modelo?
Diferentes modelos respondem de maneira diferente ao mesmo prompt e predefinição. Revise sua predefinição após alterar os modelos.
##Próximas etapas
- Inicie seu primeiro bate-papo: teste o modelo em uma conversa real.
- Preset Basics: comportamento de geração de sintonia.
- Guia do modelo GGUF local: tente a execução do modelo local.