Cloud-API-Chat-Client für Tavern Studio

Tavern Studio ist primär lokal ausgelegt („local-first“), aber nicht ausschließlich („local-only“). Als flexibler KI-Rollenspiel-Client können Sie Cloud-APIs nutzen, wenn Sie größere gehostete Modelle, schnellere Remote-Inferenz oder anbieterspezifische Funktionen wünschen. Es geht um die freie Wahl: lokale Modelle für private/Offline-Workflows, Cloud-APIs, wenn sie besser zur Aufgabe passen.

Die gleichen Charakterkarten, Lorebooks, Presets und erweiterten Chat-Workflows (wie Swipe, neu generieren oder ein Chat mit mehreren Zweigen) funktionieren unabhängig von der gewählten Route.

Für wen dieses Tool gedacht ist

  • Nutzer, die gehostete Modelle aufgrund von Qualität oder Geschwindigkeit bevorzugen.
  • Autoren und Rollenspieler, die lokale und Cloud-Generierungen vergleichen möchten.
  • Teams, die OpenAI, Claude, Gemini, OpenRouter oder benutzerdefinierte kompatible Endpunkte verwenden.
  • Nutzer, die eine funktionsreichere Chat-Umgebung als die Konsole des Anbieters suchen.

Wichtige Aspekte

Cloud-APIs sind nützlich, verändern jedoch Datenschutz und Kostenstruktur. Anfragen werden direkt an den von Ihnen konfigurierten Anbieter gesendet. API-Keys und die Nutzungsbedingungen des Anbieters müssen berücksichtigt werden. Die lokale Speicherung in Tavern Studio bedeutet nicht, dass Cloud-Anfragen lokal bleiben.

Halten Sie Modell-Routen explizit. Verbergen Sie das Cloud-Routing nicht in den Charakterbeschreibungen.

So handhabt es Tavern Studio

Tavern Studio unterstützt die Konfiguration von Cloud-Modellen, darunter OpenAI, Claude, Gemini, OpenRouter sowie benutzerdefinierte kompatible Endpunkte. Einige Anbieter nutzen eine OpenAI-kompatible API, während andere anbieterspezifische APIs verwenden. So können Sie nahtlos zwischen einem lokalen GGUF-Modell und leistungsstarken Cloud-Modellen wechseln.

Als moderne SillyTavern Alternative kann Tavern Studio importierte Einstellungen für gängige Dienste automatisch zuweisen, benutzerdefinierte Routen sollten jedoch manuell überprüft werden.

Schritt-für-Schritt-Anleitung

  1. Öffnen Sie die Modell- und API-Einstellungen.
  2. Fügen Sie die Route für den Cloud-Anbieter hinzu.
  3. Geben Sie bei Bedarf die Basis-URL, den API-Key und die Modell-ID ein.
  4. Speichern und testen Sie die Verbindung mit einem kurzen Prompt.
  5. Weisen Sie ein für den Anbieter geeignetes Preset (Vorlage) zu.
  6. Starten Sie einen Charakter-Chat.
  7. Überprüfen Sie Datenschutz- und Kostenauswirkungen vor längeren Chatsitzungen.

FAQ

Ist Tavern Studio ausschließlich eine lokale LLM-App?

Nein. Es unterstützt sowohl lokale Modelle als auch Cloud-APIs.

Beeinflusst die Nutzung von Cloud-APIs den Datenschutz?

Ja. Anfragen werden an den von Ihnen konfigurierten Anbieter gesendet. Bitte lesen Sie die Datenschutzbestimmungen dieses Anbieters.

Kann ich OpenRouter nutzen?

Ja, über die unterstützte Cloud- oder benutzerdefinierte API-Konfiguration.

Kann ich Gemini oder Claude verwenden?

Ja. Tavern Studio unterstützt Cloud-Routen auch abseits von OpenAI-kompatiblen Endpunkten.

Können Cloud- und lokale Modelle dieselbe Charakterkarte teilen?

Ja. Dieselbe Charakterkarte kann mit unterschiedlichen Modell-Routen und Presets verwendet werden.

Nächste Schritte