GGUF Modellerini İçe Aktarma

Tavern Studio'nun Windows sürümü, Llama.cpp altyapısını kullanarak doğrudan bilgisayarınızda GGUF formatındaki yapay zeka modellerini çalıştırır. Bir GGUF modelini uygulamaya tanıtmak oldukça basit bir işlemdir.

Adım Adım İçe Aktarma

1. Uygulamayı Açın: Tavern Studio'yu çalıştırın ve ana menüden "Modeller (Models)" veya "Yerel Yapay Zeka (Local AI)" sekmesine gidin.
2. Dosya Seçin: "Yeni Model Ekle" butonuna tıklayın ve bilgisayarınıza indirdiğiniz .gguf uzantılı dosyayı bulun.
3. Model Ayarları: Modelin yüklenme profilini ayarlayın. Sisteminizde yeterli VRAM varsa GPU Hızlandırma (GPU Offload) katman sayısını artırarak modelin ekran kartınızda daha hızlı çalışmasını sağlayabilirsiniz.
4. Bağlantı Kurun: Ayarları kaydettikten sonra modeli başlat (Start) ikonuna tıklayın. Model belleğe yüklendiğinde sohbetlerinizde otomatik olarak kullanılmaya başlanacaktır.

Sık Sorulan Sorular

Hata alıyorum, model yüklenmiyor. Neden olabilir?

Bu genellikle yetersiz RAM/VRAM sorunundan kaynaklanır. Seçtiğiniz GGUF dosyası çok büyük olabilir (örneğin Q8 quantizasyonu yerine Q4 versiyonunu deneyin).

Aynı anda iki model açabilir miyim?

Şu an için Tavern Studio bir defada yalnızca bir yerel modeli bellekte tutar. Farklı bir modele geçmek için diğerini durdurmanız gerekir.