GGUF Modellen Importeren in Tavern Studio | Instructies

Het GGUF modellen importeren in Tavern Studio is ontworpen om zo eenvoudig mogelijk te zijn. Of je nu Windows gebruikt (met llama.cpp) of Android (met LiteRT), het inladen van een model vereist slechts enkele klikken.

Zodra je een compatibel bestand hebt, kun je het direct aan de app koppelen, je contextgrootte instellen en lokaal beginnen met chatten zonder extra backend software.

Je Model Instellen

1. Ga naar Instellingen: Open het instellingenmenu en ga naar de sectie voor Lokale Modellen.
2. Kies je Bestand: Klik op de knop om te browsen en selecteer je .gguf bestand.
3. Configureer Geheugen: Bepaal de "Context Size". Hoe hoger dit is, hoe meer de AI onthoudt, maar hoe meer werkgeheugen het kost.
4. Laad het Model: Klik op 'Load'. Zodra het is geladen, kun je offline chatten!

FAQ: Mijn GGUF model laadt niet, wat nu?

Zorg ervoor dat je voldoende RAM vrij hebt. Probeer de contextgrootte (context size) te verlagen of download een sterker gekwantiseerd model (bijvoorbeeld Q3 of Q4 in plaats van Q8).