Kör lokal LLM på Windows med llama.cpp
För den som vill ha maximal prestanda är Tavern Studio för PC integrerat med llama.cpp. Detta gör att du kan köra en kraftfull lokal LLM på Windows och utnyttja både CPU och din dators grafikkort.
Det finns ingen komplicerad installation. Allt ingår direkt i appen.
Smidig hårdvaruacceleration
- Välj hur många lager du vill ladda in i grafikkortets minne (GPU offload).
- Ladda in stora GGUF-modeller för smarta svar.
- Chatta utan fördröjning.
Varför inbyggt llama.cpp?
Genom att ha det inbyggt (native) slipper du köra en separat backend-server. Appen är lättare att hantera och startar direkt.