Import modeli GGUF do Tavern Studio
Format GGUF to branżowy standard dla skompresowanych, zoptymalizowanych do CPU/GPU modeli open-source. Gdy posiadasz plik GGUF, Tavern Studio uruchomi go dzięki obsłudze llama.cpp.
Kroki do importu:
- Przejdź do panelu ustawień lokalnego silnika.
- Kliknij "Dodaj model" i wybierz pobrany plik z dysku komputera lub urządzenia mobilnego.
- Dostosuj liczbę warstw GPU do odciążenia na kartę graficzną (offload layers).
- Kliknij "Załaduj" – gotowe!
Od tego momentu cały roleplay oraz procesowanie informacji z lorebooków jest wykonywane na Twojej maszynie.