Scaricare Modelli Locali in Tavern Studio
Uno dei maggiori vantaggi di Tavern Studio è la capacità di gestire i file dei modelli di intelligenza artificiale direttamente dal client, garantendo una completa esperienza offline. Per iniziare a chattare senza connessione internet, dovrai prima scaricare modelli locali compatibili.
Tavern Studio semplifica questo processo integrando un sistema di download direttamente all'interno dell'applicazione, senza dover dipendere da terminali o strumenti esterni.
Come Scaricare i Modelli
L'app supporta nativamente il formato GGUF, che è ottimizzato per l'esecuzione su dispositivi consumer.
- Vai nella sezione Modelli o Inferenza Locale dell'app.
- Usa il downloader integrato per trovare i modelli adatti alle tue specifiche hardware.
- Inizia il download. Il file GGUF verrà salvato nella cartella locale dei modelli di Tavern Studio.
- Una volta terminato, seleziona il modello e avvia l'inferenza per chattare con le tue character card.
Scegliere il Modello Giusto
Quando vai a scaricare modelli locali, considera:
- La memoria RAM del tuo dispositivo: Modelli da 7B a 8B parametri (quantizzati in Q4 o Q5) funzionano bene su sistemi con 8GB - 16GB di RAM.
- Formato: Assicurati sempre di scaricare file
.gguf. - Ottimizzazione: Se sei su Android e usi LiteRT, l'app potrebbe suggerirti varianti specifiche dei modelli.
FAQ
Posso usare modelli scaricati in precedenza?
Sì. Se hai già file GGUF scaricati da Hugging Face tramite altre app, puoi semplicemente importarli nella cartella dei modelli di Tavern Studio senza doverli riscaricare.