Tavern Studio Pobieranie / testowanie
Tavern Studio Docs · 08

Wstępnie ustawione podstawy

Ustawienia wstępne kontrolują sposób zapisywania modelu. Łączą parametry generowania i strukturę podpowiedzi, dzięki czemu możesz ponownie używać stylu na czatach.

Dla kogo to jest

  • Użytkownicy, których odpowiedzi wydają się powtarzalne, zbyt krótkie lub zbyt chaotyczne.
  • Użytkownicy, którzy chcą poznać temperaturę, górne P i minimalne P.
  • Użytkownicy, którzy potrzebują różnych ustawień dla różnych postaci lub modeli.

Czego się nauczysz

  • Co to jest ustawienie wstępne.
  • Jak typowe parametry próbkowania wpływają na odgrywanie ról.
  • Jak zarządzać globalnymi ustawieniami wstępnymi.
  • Jak zastąpić ustawienia wstępne dla konkretnego czatu.

Kluczowe parametry próbkowania

1. Temperatura

Temperatura kontroluje losowość. Wyższe wartości mogą sprawić, że odpowiedzi będą bardziej kreatywne, ale zbyt wysokie mogą spowodować niestabilność lub bezsensowność wyników.

2. Min. str

Min P filtruje tokeny o niskim prawdopodobieństwie w stosunku do tokena najbardziej prawdopodobnego. Może pomóc zachować kreatywność, jednocześnie ograniczając niespójność wyników.

3. Górne P i górne K

Top P i Top K ograniczają pulę tokenów kandydujących. Jeśli Min P jest aktywne, możesz ustawić Top P mniej restrykcyjnie, chyba że Twój model skorzysta z bardziej rygorystycznego filtrowania.

4. Maksymalna liczba żetonów odpowiedzi

Kontroluje to, jak długo może trwać pojedyncza odpowiedź. Zwiększ go, jeśli chcesz pisać dłuższą prozę lub szczegółowe sceny.

Zarządzaj i przełączaj ustawienia wstępne

1. Globalne zarządzanie ustawieniami wstępnymi

Otwórz ustawienia wstępne, aby tworzyć, powielać, importować i edytować gotowe konfiguracje.

2. Zastąpienie ustawień domyślnych na poziomie czatu

Otwórz Ustawienia czatu, aby przypisać określone ustawienie wstępne do postaci lub rozmowy, gdy powinna ona zachowywać się inaczej niż globalne ustawienia domyślne.

Często zadawane pytania

Dlaczego wyższa temperatura pogorszyła odpowiedź?

Wartość może być zbyt wysoka dla modelu. Obniż go i rozważ użycie Min P w celu zmniejszenia niestabilności tokenów.

Dlaczego moje wstępnie ustawione zmiany nie wpłynęły na bieżący czat?

Czat może mieć ustawione zastąpienie. Sprawdź ustawienia czatu dla tej rozmowy.

Dlaczego model się powtarza?

Spróbuj dostosować ustawienia związane z powtórzeniami, długość odpowiedzi i strukturę podpowiedzi. Niektóre modele powtarzają się częściej niż inne.

Kolejne kroki