أساسيات محددة مسبقا
تتحكم الإعدادات المسبقة في كيفية كتابة النموذج. فهي تجمع بين معلمات الإنشاء والبنية السريعة حتى تتمكن من إعادة استخدام النمط عبر الدردشات.
لمن هذا
- المستخدمون الذين تبدو ردودهم متكررة أو قصيرة جدًا أو فوضوية جدًا.
- المستخدمون الذين يرغبون في فهم درجة الحرارة وأعلى P وMin P.
- المستخدمون الذين يحتاجون إلى إعدادات مختلفة لشخصيات أو نماذج مختلفة.
ما سوف تتعلمه
- ما هو الإعداد المسبق.
- كيف تؤثر معلمات أخذ العينات الشائعة على لعب الأدوار.
- كيفية إدارة الإعدادات المسبقة العالمية.
- كيفية تجاوز الإعدادات المسبقة لدردشة معينة.
معلمات أخذ العينات الرئيسية
1. درجة الحرارة
تتحكم في درجة الحرارة العشوائية. يمكن أن تؤدي القيم الأعلى إلى جعل الردود أكثر إبداعًا، ولكن قد تؤدي القيم العالية جدًا إلى نتائج غير مستقرة أو غير منطقية.
2. مين ص
يقوم Min P بتصفية الرموز المميزة ذات الاحتمالية المنخفضة بالنسبة إلى الرمز المميز الأكثر احتمالاً. يمكن أن يساعد في الحفاظ على الإبداع مع تقليل المخرجات غير المتماسكة.
3. توب P وتوب K
يحدد Top P وTop K مجموعة الرموز المميزة للمرشح. إذا كان Min P نشطًا، فيمكنك إبقاء Top P أقل تقييدًا ما لم يستفيد نموذجك من التصفية الأكثر صرامة.
4. الحد الأقصى من رموز الاستجابة
يتحكم هذا في المدة التي يمكن أن تستغرقها الاستجابة الواحدة. يمكنك زيادتها للحصول على نثر أطول أو كتابة مشهد تفصيلي.
إدارة وتبديل الإعدادات المسبقة
1. إدارة الإعدادات المسبقة العالمية
افتح الإعدادات المسبقة لإنشاء التكوينات المعدة مسبقًا وتكرارها واستيرادها وتحريرها.
2. تجاوزات الإعداد المسبق على مستوى الدردشة
افتح إعدادات الدردشة لتعيين إعداد مسبق محدد لشخصية أو محادثة عندما يجب أن تتصرف بشكل مختلف عن الإعداد الافتراضي العام.
الأسئلة الشائعة
لماذا أدى ارتفاع درجة الحرارة إلى تفاقم الاستجابة؟
قد تكون القيمة مرتفعة جدًا بالنسبة للنموذج. قم بخفضها وفكر في استخدام Min P لتقليل الرموز المميزة غير المستقرة.
لماذا لم تؤثر التغييرات المحددة مسبقًا على الدردشة الحالية؟
قد تحتوي الدردشة على تجاوز محدد مسبقًا. تحقق من إعدادات الدردشة لتلك المحادثة.
لماذا يكرر النموذج نفسه؟
حاول ضبط الإعدادات المتعلقة بالتكرار وطول الاستجابة وبنية المطالبة. تتكرر بعض النماذج أيضًا أكثر من غيرها.
الخطوات التالية
- دليل نموذج GGUF المحلي: قم بإقران الإعدادات المسبقة مع النماذج المحلية.
- ترحيل SillyTavern: استيراد الأصول المحددة مسبقًا الموجودة.
- النسخ الاحتياطي والاستعادة: حماية الإعدادات المسبقة المضبوطة.