كيفية استيراد نماذج GGUF في Tavern Studio

تعد صيغة GGUF (GPT-Generated Unified Format) هي المعيار الذهبي لتشغيل نماذج الذكاء الاصطناعي الضخمة محلياً (Local LLM) على أجهزة الحواسيب الشخصية. يدمج Tavern Studio محرك llama.cpp القوي لضمان تشغيل هذه النماذج بكفاءة عالية على المعالج (CPU) وكرت الشاشة (GPU). إليك كيفية إضافة نماذج GGUF إلى التطبيق والبدء بالدردشة والـ "رول بلاي".

خطوات الاستيراد

  1. تحميل ملف GGUF: أولاً، تأكد من أنك قمت بتنزيل نموذج لغوي بصيغة .gguf من مصادر مثل Hugging Face وحفظه في مجلد معروف على حاسوبك (مثل مجلد "التحميلات" أو مجلد مخصص للنماذج).
  2. الوصول لإعدادات النماذج: افتح تطبيق Tavern Studio على الويندوز، وانتقل إلى قسم الإعدادات (Settings) أو مدير النماذج (Model Manager).
  3. إضافة النموذج: انقر على زر "Add Local Model" أو "Import Model". سيُفتح لك مستكشف الملفات.
  4. تحديد الملف: تصفح جهازك للوصول إلى ملف GGUF الذي حملته، وحدده. سيقوم التطبيق بتسجيل مسار الملف وإضافته إلى قائمة النماذج المتاحة.
  5. ضبط الإعدادات (اختياري): يمكنك تعيين النموذج الجديد كالنموذج الافتراضي للدردشة وتعديل إعدادات التحميل على كرت الشاشة (GPU Offloading) لزيادة السرعة إذا كان حاسوبك يمتلك كرت شاشة قوي.

الأسئلة الشائعة

ما هي إعدادات (GPU Offloading)؟

هي ميزة تسمح للتطبيق بنقل أجزاء من معالجة النموذج من الـ CPU إلى كرت الشاشة (GPU). كلما زادت نسبة النقل، زادت سرعة توليد الردود.

هل أحتاج لاستيراد النموذج في كل مرة أفتح فيها التطبيق؟

لا، بمجرد تحديد مسار ملف الـ GGUF مرة واحدة، سيحفظ Tavern Studio مكانه ويمكنك اختياره بضغطة زر عند بدء محادثة جديدة أو استكمال "الرول بلاي" السابق.