Configuração de API Compatível com OpenAI no Tavern Studio
A configuração de uma API compatível com OpenAI normalmente requer três elementos: uma URL base, uma chave de API ou token (se necessário) e um ID de modelo. O Tavern Studio mantém essa configuração do provedor separada dos cartões de personagem e presets, permitindo que você alterne rotas de modelo sem a necessidade de reescrever seus personagens.
Muitos provedores e servidores locais expõem APIs no formato /chat/completions da OpenAI. Alguns não o fazem, por isso é sempre importante consultar a documentação do provedor correspondente.
Para Quem se Destina
- Usuários que conectam serviços em nuvem com uma API compatível com OpenAI.
- Desenvolvedores que utilizam servidores locais de modelos.
- Usuários com gateways customizados ou proxies reversos.
- Usuários do SillyTavern migrando suas configurações de API.
Aspectos Fundamentais
Um endpoint com uma API compatível com OpenAI geralmente utiliza autenticação baseada em token de portador (bearer-token) e um corpo de completions de chat com parâmetros como model e messages. Servidores locais podem dispensar chaves de API. Gateways personalizados podem requerer seus próprios cabeçalhos, IDs de conta ou caminhos de rede.
Não armazene detalhes de provedores dentro de cartões de personagem. Mantenha personagens, presets e rotas de modelo devidamente separados.
Como o Tavern Studio Lida com Isso
O Tavern Studio oferece suporte para configuração de API compatível com OpenAI e pode mapear serviços comuns durante a migração do SillyTavern. Endpoints personalizados, serviços locais, proxies reversos, Azure OpenAI, Cloudflare Workers AI, URLs base ausentes e modelos padrão ausentes podem requerer ajustes manuais.
O montador de prompts é capaz de estruturar arrays de mensagens ordenadas para rotas no estilo OpenAI.
Passos de Operação
- Abrir as configurações de conexão da API ou modelo.
- Escolher uma rota de API compatível com OpenAI.
- Inserir a URL base.
- Inserir a chave de API se o endpoint exigir uma.
- Inserir ou selecionar o ID do modelo.
- Salvar a conexão.
- Enviar uma mensagem curta de teste.
- Vincular a rota ao fluxo de chat ou preset (predefinições) que você deseja utilizar.
FAQ
O que é uma API compatível com OpenAI?
É um endpoint que segue os padrões de requisição e resposta da OpenAI, normalmente incluindo o caminho /chat/completions.
Posso usar um servidor local?
Sim, desde que o servidor exponha uma API compatível com OpenAI e as configurações de URL base e de modelo estejam corretas.
O Tavern Studio contorna as chaves de API do provedor?
Não. Você deve utilizar credenciais válidas obtidas junto ao provedor ou ao seu próprio serviço local.
Por que o meu endpoint apresenta falhas?
As causas mais comuns incluem URL base incorreta, falta do prefixo /v1, ID do modelo incorreto, chave inválida, problemas com proxy ou diferenças específicas do próprio provedor.
Um único personagem pode usar múltiplos endpoints?
O mesmo personagem pode ser testado com rotas diferentes ao alterar as configurações de chat/modelo e presets.
Próximos Passos
- Compare o roteamento de nuvem em Cliente de Chat de API em Nuvem.
- Utilize alternativas locais com Executar LLMs Locais no Windows.
- Gerencie o comportamento de geração em Presets e Gerenciador de Prompts.