Einrichtung einer OpenAI-kompatiblen API in Tavern Studio

Die Einrichtung einer OpenAI-kompatiblen API erfordert in der Regel drei Dinge: eine Basis-URL, einen API-Schlüssel oder Token (falls erforderlich) und eine Modell-ID. Tavern Studio hält diese Provider-Konfiguration getrennt von Charakterkarten und Presets, sodass Sie Modellrouten wechseln können, ohne Ihre Charaktere neu schreiben zu müssen.

Viele Provider und lokale Server bieten APIs im OpenAI-Stil unter /chat/completions an. Einige tun dies jedoch nicht, weshalb Sie immer die Dokumentation des jeweiligen Providers prüfen sollten.

Für wen das ist

• Benutzer, die OpenAI-kompatible Cloud-Dienste anbinden möchten.
• Entwickler, die lokale Modell-Server nutzen.
• Personen mit benutzerdefinierten Gateways oder Reverse-Proxies.
• SillyTavern-Nutzer, die ihre API-Einstellungen migrieren (SillyTavern Alternative).

Kerninhalte

Ein OpenAI-kompatibler Endpunkt verwendet im Allgemeinen eine Bearer-Token-Authentifizierung und einen Chat-Completions-Body mit model und messages. Lokale Server können auf API-Schlüssel verzichten. Benutzerdefinierte Gateways fügen unter Umständen eigene Header, Account-IDs oder Pfade hinzu.

Speichern Sie keine Provider-Details innerhalb von Charakterkarten. Halten Sie Charaktere, Presets, Lorebooks und Modellrouten getrennt.

Wie Tavern Studio damit umgeht

Tavern Studio unterstützt die Konfiguration OpenAI-kompatibler APIs und kann gängige Dienste während der SillyTavern-Migration automatisch zuordnen. Als KI-Rollenspiel-Client bietet Tavern Studio erweiterten Komfort wie einen Chat mit mehreren Zweigen. Benutzerdefinierte Endpunkte, lokale Dienste, Reverse-Proxies, Azure OpenAI, Cloudflare Workers AI, fehlende Basis-URLs und fehlende Standardmodelle erfordern möglicherweise eine manuelle Einrichtung.

Der Prompt-Assembler kann strukturierte Message-Arrays für Routen im OpenAI-Stil vorbereiten.

Bedienschritte

1. Öffnen Sie die API- oder Modell-Verbindungseinstellungen.
2. Wählen Sie eine OpenAI-kompatible Route.
3. Geben Sie die Basis-URL ein.
4. Geben Sie den API-Schlüssel ein, falls der Endpunkt einen erfordert.
5. Geben Sie die Modell-ID ein oder wählen Sie diese aus.
6. Speichern Sie die Verbindung.
7. Senden Sie eine kurze Testnachricht.
8. Verknüpfen Sie die Route mit dem Chat oder dem Preset-Workflow, den Sie verwenden möchten.

FAQ

Was ist eine OpenAI-kompatible API?

Es handelt sich um einen Endpunkt, der den Anfrage- und Antwortmustern im OpenAI-Stil folgt und üblicherweise /chat/completions beinhaltet.

Kann ich einen lokalen Server verwenden?

Ja, sofern der Server eine kompatible API bereitstellt (z. B. für ein GGUF-Modell) und die Basis-URL- sowie Modell-Einstellungen korrekt sind.

Umgeht Tavern Studio die API-Schlüssel des Providers?

Nein. Verwenden Sie gültige Anmeldedaten des Providers oder Ihres eigenen lokalen Dienstes.

Warum schlägt mein Endpunkt fehl?

Häufige Ursachen sind eine falsche Basis-URL, ein fehlendes /v1, eine falsche Modell-ID, ein ungültiger Schlüssel, Proxy-Probleme oder providerspezifische Unterschiede.

Kann ein Charakter mehrere Endpunkte verwenden?

Derselbe Charakter (basierend auf einer Charakterkarte) kann mit verschiedenen Routen getestet werden, indem Chat-Einstellungen, Modell-Einstellungen und Presets angepasst werden. Dies ermöglicht es Ihnen auch, Nachrichten per Swipe neu zu generieren, um die beste Antwort zu finden.

Nächste Schritte

• Vergleichen Sie das Cloud-Routing im Cloud-API-Chat-Client.
• Nutzen Sie lokale Alternativen mit Lokale LLMs unter Windows ausführen.
• Verwalten Sie das Generierungsverhalten im Preset- und Prompt-Manager.