Cloud-API-Chat-Client für Tavern Studio
Tavern Studio ist primär lokal ausgelegt („local-first“), aber nicht ausschließlich („local-only“). Als flexibler KI-Rollenspiel-Client können Sie Cloud-APIs nutzen, wenn Sie größere gehostete Modelle, schnellere Remote-Inferenz oder anbieterspezifische Funktionen wünschen. Es geht um die freie Wahl: lokale Modelle für private/Offline-Workflows, Cloud-APIs, wenn sie besser zur Aufgabe passen.
Die gleichen Charakterkarten, Lorebooks, Presets und erweiterten Chat-Workflows (wie Swipe, neu generieren oder ein Chat mit mehreren Zweigen) funktionieren unabhängig von der gewählten Route.
Für wen dieses Tool gedacht ist
- Nutzer, die gehostete Modelle aufgrund von Qualität oder Geschwindigkeit bevorzugen.
- Autoren und Rollenspieler, die lokale und Cloud-Generierungen vergleichen möchten.
- Teams, die OpenAI, Claude, Gemini, OpenRouter oder benutzerdefinierte kompatible Endpunkte verwenden.
- Nutzer, die eine funktionsreichere Chat-Umgebung als die Konsole des Anbieters suchen.
Wichtige Aspekte
Cloud-APIs sind nützlich, verändern jedoch Datenschutz und Kostenstruktur. Anfragen werden direkt an den von Ihnen konfigurierten Anbieter gesendet. API-Keys und die Nutzungsbedingungen des Anbieters müssen berücksichtigt werden. Die lokale Speicherung in Tavern Studio bedeutet nicht, dass Cloud-Anfragen lokal bleiben.
Halten Sie Modell-Routen explizit. Verbergen Sie das Cloud-Routing nicht in den Charakterbeschreibungen.
So handhabt es Tavern Studio
Tavern Studio unterstützt die Konfiguration von Cloud-Modellen, darunter OpenAI, Claude, Gemini, OpenRouter sowie benutzerdefinierte kompatible Endpunkte. Einige Anbieter nutzen eine OpenAI-kompatible API, während andere anbieterspezifische APIs verwenden. So können Sie nahtlos zwischen einem lokalen GGUF-Modell und leistungsstarken Cloud-Modellen wechseln.
Als moderne SillyTavern Alternative kann Tavern Studio importierte Einstellungen für gängige Dienste automatisch zuweisen, benutzerdefinierte Routen sollten jedoch manuell überprüft werden.
Schritt-für-Schritt-Anleitung
- Öffnen Sie die Modell- und API-Einstellungen.
- Fügen Sie die Route für den Cloud-Anbieter hinzu.
- Geben Sie bei Bedarf die Basis-URL, den API-Key und die Modell-ID ein.
- Speichern und testen Sie die Verbindung mit einem kurzen Prompt.
- Weisen Sie ein für den Anbieter geeignetes Preset (Vorlage) zu.
- Starten Sie einen Charakter-Chat.
- Überprüfen Sie Datenschutz- und Kostenauswirkungen vor längeren Chatsitzungen.
FAQ
Ist Tavern Studio ausschließlich eine lokale LLM-App?
Nein. Es unterstützt sowohl lokale Modelle als auch Cloud-APIs.
Beeinflusst die Nutzung von Cloud-APIs den Datenschutz?
Ja. Anfragen werden an den von Ihnen konfigurierten Anbieter gesendet. Bitte lesen Sie die Datenschutzbestimmungen dieses Anbieters.
Kann ich OpenRouter nutzen?
Ja, über die unterstützte Cloud- oder benutzerdefinierte API-Konfiguration.
Kann ich Gemini oder Claude verwenden?
Ja. Tavern Studio unterstützt Cloud-Routen auch abseits von OpenAI-kompatiblen Endpunkten.
Können Cloud- und lokale Modelle dieselbe Charakterkarte teilen?
Ja. Dieselbe Charakterkarte kann mit unterschiedlichen Modell-Routen und Presets verwendet werden.
Nächste Schritte
- Richten Sie kompatible Endpunkte in OpenAI-kompatible API einrichten ein.
- Nutzen Sie lokale Modelle mit einer lokalen LLM-App.
- Überprüfen Sie Ihre Datenoptionen im privaten AI-Chat-Client.