Tavern Studio Ladda ner / testa
Tavern Studio Docs · 04

Konfigurera ditt första API

För att generera svar behöver Tavern Studio en modellbackend. Den här guiden förklarar hur du ansluter ett moln-API eller OpenAI-kompatibel slutpunkt.

Vem är detta till för

  • Användare som vill använda molnmodeller som OpenAI-kompatibla tjänster.
  • Användare som ser anslutningsfel eller saknade modelllistor.
  • Användare som vill tilldela olika modellrutter till olika chattar.

Vad du kommer att lära dig

  • Vad basadress, API-nyckel och modellnamn betyder.
  • Hur OpenAI-kompatibla API:er fungerar.
  • Hur man felsöker vanliga anslutningsfel.
  • Hur överstyrningar av modeller på chattnivå passar in i arbetsflödet.

Varför konfigurera ett API?

Tavern Studio hanterar dina karaktärer och snabbkontext, men en modellbackend genererar texten. API-anslutningen talar om för Tavern Studio var den ska skicka uppmaningen och vilken modell som ska svara.

[!WARNING]> API-nycklar är privata referenser. Dela dem inte i skärmdumpar, loggar eller offentliga inlägg.

Vanliga leverantörstyper

  • Officiella molnleverantörer: tjänster där du har ett direktkonto och API-nyckel.
  • Tredjepartsgateways: tjänster som exponerar en kompatibel API-slutpunkt.
  • OpenAI-kompatibla API:er: ett vanligt protokoll som används av många molntjänster och lokala modelltjänster.

Nyckel, URL och modell

Öppna Inställningar, hitta API-avsnittet och konfigurera:

  1. Leverantör: välj leverantörstyp.
  2. Bas-URL: ange slutpunkts-URL.
  3. API-nyckel: klistra in din privata nyckel.
  4. Refresh Models: ladda tillgängliga modeller.
  5. Modell: välj modell för chatten.

Om leverantören är kompatibel men modelllistan inte laddas, kanske du fortfarande kan ange ett modellnamn manuellt om appversionen stöder det.

Åsidosätter chattnivå

Globala API-inställningar definierar standardbackend. Enskilda chattar kan åsidosätta modellen eller rutten genom chattinställningarna, vilket är användbart när olika karaktärer behöver olika modeller eller kostnader.

Felsökning av anslutningsfel

Kontrollera basadressen

Vissa leverantörer kräver/v1, medan andra redan inkluderar det. Undvik att duplicera eller utelämna den önskade sökvägen.

Kontrollera nätverks- och proxyinställningar

Om ditt nätverk inte kan nå leverantören, konfigurera en proxy om din miljö kräver en.

Kontrollera kontokvoten

Utgångna provkrediter eller otillräckligt saldo kan orsaka autentiserings- eller kvotfel även när nyckeln är korrekt.

Vanliga frågor

Varför kan jag uppdatera modeller men chatten misslyckas fortfarande?

Den valda modellen kanske inte är tillgänglig för chattgenerering, eller så kan modellnamnet skilja sig från vad leverantören förväntar sig.

Kan jag skriva ett modellnamn manuellt?

Använd modelllistan när det är möjligt. Manuella modellnamn bör matcha leverantörens exakta identifierare.

Varför ändrades beteendet efter att ha bytt modell?

Olika modeller svarar olika på samma uppmaning och förinställning. Granska din förinställning efter att du har bytt modell.

Nästa steg