Tavern Studio Pobieranie / testowanie
Tavern Studio Docs · 04

Skonfiguruj swój pierwszy interfejs API

Aby generować odpowiedzi, Tavern Studio potrzebuje zaplecza modelowego. W tym przewodniku wyjaśniono, jak podłączyć interfejs API chmury lub punkt końcowy zgodny z OpenAI.

Dla kogo to jest

  • Użytkownicy, którzy chcą korzystać z modeli chmurowych, takich jak usługi kompatybilne z OpenAI.
  • Użytkownicy widzący błędy połączenia lub brakujące listy modeli.
  • Użytkownicy, którzy chcą przypisać różne trasy modelu do różnych czatów.

Czego się nauczysz

  • Co oznacza podstawowy adres URL, klucz API i nazwa modelu.
  • Jak działają interfejsy API kompatybilne z OpenAI.
  • Jak rozwiązywać typowe awarie połączeń.
  • Jak zastąpienia modelu na poziomie czatu pasują do przepływu pracy.

Po co konfigurować interfejs API?

Tavern Studio zarządza twoimi postaciami i kontekstem podpowiedzi, ale backend modelu generuje tekst. Połączenie API informuje Tavern Studio, gdzie wysłać monit i który model powinien odpowiedzieć.

[!WARNING]> Klucze API to prywatne dane uwierzytelniające. Nie udostępniaj ich na zrzutach ekranu, dziennikach ani postach publicznych.

Typowe typy dostawców

  • Oficjalni dostawcy usług w chmurze: usługi, w których masz konto bezpośrednie i klucz API.
  • Bramy innych firm: usługi udostępniające zgodny punkt końcowy interfejsu API.
  • Interfejsy API zgodne z OpenAI: wspólny protokół używany przez wiele usług w chmurze i modeli lokalnych.

Klucz, adres URL i model

Otwórz Ustawienia, znajdź sekcję API i skonfiguruj:

  1. Dostawca: wybierz typ dostawcy.
  2. Bazowy adres URL: wprowadź adres URL punktu końcowego.
  3. Klucz API: wklej swój klucz prywatny.
  4. Odśwież modele: ładuje dostępne modele.
  5. Model: wybierz model do czatu.

Jeśli dostawca jest kompatybilny, ale lista modeli się nie ładuje, nadal możesz mieć możliwość ręcznego wprowadzenia nazwy modelu, jeśli wersja aplikacji ją obsługuje.

Zastąpienia na poziomie czatu

Globalne ustawienia API definiują domyślny backend. Indywidualne czaty mogą zastąpić model lub trasę w Ustawieniach czatu, co jest przydatne, gdy różne postacie potrzebują różnych modeli lub kosztów.

Rozwiązywanie problemów z błędami połączenia

Sprawdź podstawowy adres URL

Niektórzy dostawcy wymagają/v1, podczas gdy inni już go uwzględniają. Unikaj powielania lub pomijania wymaganej ścieżki.

Sprawdź ustawienia sieci i serwera proxy

Jeśli Twoja sieć nie może połączyć się z dostawcą, skonfiguruj serwer proxy, jeśli Twoje środowisko go wymaga.

Sprawdź limit konta

Wygasłe środki próbne lub niewystarczające saldo mogą powodować błędy uwierzytelniania lub przydziału, nawet jeśli klucz jest prawidłowy.

Często zadawane pytania

Dlaczego mogę odświeżyć modele, ale czat nadal nie działa?

Wybrany model może nie być dostępny do generowania czatu lub nazwa modelu może różnić się od oczekiwań dostawcy.

Czy mogę wpisać nazwę modelu ręcznie?

Jeśli to możliwe, korzystaj z listy modeli. Ręczne nazwy modeli powinny odpowiadać dokładnemu identyfikatorowi dostawcy.

Dlaczego zachowanie zmieniło się po zmianie modelu?

Różne modele różnie reagują na ten sam monit i ustawienie wstępne. Przejrzyj ustawienia wstępne po zmianie modelu.

Kolejne kroki