Ladda ner lokala AI-modeller (GGUF)
Vill du köra AI utan internet? Tavern Studio låter dig använda modeller lokalt (local-first) på din enhet. Denna guide visar hur du hittar och kan ladda ner lokala AI-modeller (GGUF) för att komma igång.
GGUF är ett format som är optimerat för CPU och vanliga grafikkort.
Var hittar jag modeller?
Hugging Face är den största källan för modeller. Sök efter "GGUF" och hitta en modell som passar ditt system (beroende på RAM och VRAM).
- Ladda ner filen (.gguf).
- Öppna Tavern Studio.
- Välj lokal körning (llama.cpp på Windows, LiteRT på Android) och peka på filen.
Behöver jag ett starkt grafikkort?
Inte nödvändigtvis. Mindre modeller fungerar utmärkt på CPU eller i din Android-telefon tack vare LiteRT-optimering.