Tavern Studio Herunterladen / Testen
Tavern Studio Docs · 04

Konfigurieren Sie Ihre erste API

Um Antworten zu generieren, benötigt Tavern Studio ein Modell-Backend. In dieser Anleitung wird erläutert, wie Sie eine Cloud-API oder einen OpenAI-kompatiblen Endpunkt verbinden.

Für wen das ist

  • Benutzer, die Cloud-Modelle wie OpenAI-kompatible Dienste nutzen möchten.
  • Benutzer sehen Verbindungsfehler oder fehlende Modelllisten.
  • Benutzer, die verschiedenen Chats unterschiedliche Modellrouten zuweisen möchten.

Was Sie lernen werden

  • Was bedeuten Basis-URL, API-Schlüssel und Modellname?
  • Wie OpenAI-kompatible APIs funktionieren.
  • So beheben Sie häufig auftretende Verbindungsfehler.
  • Wie Modellüberschreibungen auf Chat-Ebene in den Workflow passen.

Warum eine API konfigurieren?

Tavern Studio verwaltet Ihre Charaktere und den Eingabeaufforderungskontext, aber ein Modell-Backend generiert den Text. Die API-Verbindung teilt Tavern Studio mit, wohin die Eingabeaufforderung gesendet werden soll und welches Modell antworten soll.

[!WARNING]> API-Schlüssel sind private Anmeldeinformationen. Teilen Sie sie nicht in Screenshots, Protokollen oder öffentlichen Beiträgen.

Gängige Anbietertypen

  • Offizielle Cloud-Anbieter: Dienste, bei denen Sie über ein direktes Konto und einen API-Schlüssel verfügen.
  • Gateways von Drittanbietern: Dienste, die einen kompatiblen API-Endpunkt verfügbar machen.
  • OpenAI-kompatible APIs: ein gemeinsames Protokoll, das von vielen Cloud- und lokalen Modelldiensten verwendet wird.

Schlüssel, URL und Modell

Öffnen Sie Einstellungen, suchen Sie den API-Bereich und konfigurieren Sie:

  1. Anbieter: Wählen Sie den Anbietertyp.
  2. Basis-URL: Geben Sie die Endpunkt-URL ein.
  3. API-Schlüssel: Fügen Sie Ihren privaten Schlüssel ein.
  4. Modelle aktualisieren: Verfügbare Modelle laden.
  5. Modell: Wählen Sie das Modell für den Chat aus.

Wenn der Anbieter kompatibel ist, die Modellliste jedoch nicht geladen wird, können Sie möglicherweise trotzdem manuell einen Modellnamen eingeben, sofern die App-Version dies unterstützt.

Überschreibungen auf Chat-Ebene

Globale API-Einstellungen definieren das Standard-Backend. Einzelne Chats können das Modell überschreiben oder über die Chat-Einstellungen weiterleiten, was nützlich ist, wenn verschiedene Charaktere unterschiedliche Modelle oder Kosten benötigen.

Fehlerbehebung bei Verbindungsfehlern

Überprüfen Sie die Basis-URL

Einige Anbieter erfordern/v1, andere enthalten es bereits. Vermeiden Sie es, den erforderlichen Pfad zu duplizieren oder wegzulassen.

Überprüfen Sie die Netzwerk- und Proxy-Einstellungen

Wenn Ihr Netzwerk den Anbieter nicht erreichen kann, konfigurieren Sie einen Proxy, sofern Ihre Umgebung einen erfordert.

Überprüfen Sie das Kontokontingent

Abgelaufene Testguthaben oder unzureichendes Guthaben können zu Authentifizierungs- oder Kontingentfehlern führen, selbst wenn der Schlüssel korrekt ist.

FAQ

Warum kann ich Modelle aktualisieren, der Chat schlägt jedoch immer noch fehl?

Das ausgewählte Modell ist möglicherweise nicht für die Chat-Generierung verfügbar oder der Modellname weicht möglicherweise von den Erwartungen des Anbieters ab.

Kann ich einen Modellnamen manuell eingeben?

Verwenden Sie nach Möglichkeit die Modellliste. Manuelle Modellnamen sollten mit der genauen Kennung des Anbieters übereinstimmen.

Warum hat sich das Verhalten nach dem Modellwechsel geändert?

Verschiedene Modelle reagieren unterschiedlich auf dieselbe Aufforderung und Voreinstellung. Überprüfen Sie Ihre Voreinstellungen nach einem Modellwechsel.

Nächste Schritte