พื้นฐานที่ตั้งไว้ล่วงหน้า
ค่าที่ตั้งล่วงหน้าจะควบคุมวิธีที่โมเดลเขียน โดยจะรวมพารามิเตอร์การสร้างและโครงสร้างพร้อมท์เพื่อให้คุณนำสไตล์มาใช้ซ้ำในแชทได้
สิ่งนี้เพื่อใคร
- ผู้ใช้ที่รู้สึกว่าการตอบกลับซ้ำๆ สั้นเกินไป หรือวุ่นวายเกินไป
- ผู้ใช้ที่ต้องการทำความเข้าใจอุณหภูมิ Top P และ Min P
- ผู้ใช้ที่ต้องการการตั้งค่าที่แตกต่างกันสำหรับตัวละครหรือโมเดลที่แตกต่างกัน
สิ่งที่คุณจะได้เรียนรู้
- ค่าที่ตั้งล่วงหน้าคืออะไร
- พารามิเตอร์การสุ่มตัวอย่างทั่วไปส่งผลต่อการเล่นบทบาทอย่างไร
- วิธีจัดการค่าที่ตั้งล่วงหน้าทั่วโลก
- วิธีแทนที่การตั้งค่าล่วงหน้าสำหรับการแชทเฉพาะ
พารามิเตอร์การสุ่มตัวอย่างที่สำคัญ
1. อุณหภูมิ
ควบคุมอุณหภูมิแบบสุ่ม ค่าที่สูงกว่าอาจทำให้การตอบกลับมีความสร้างสรรค์มากขึ้น แต่ค่าที่สูงเกินไปอาจทำให้เอาต์พุตไม่เสถียรหรือไร้สาระได้
2. มิน ป
Min P กรองโทเค็นความน่าจะเป็นต่ำเมื่อเทียบกับโทเค็นที่มีแนวโน้มมากที่สุด สามารถช่วยรักษาความคิดสร้างสรรค์ในขณะที่ลดผลลัพธ์ที่ไม่ต่อเนื่องกัน
3. ท็อป P และ ท็อปเค
Top P และ Top K จำกัดกลุ่มโทเค็นของผู้สมัคร หาก Min P ทำงานอยู่ คุณอาจจำกัด Top P น้อยลง เว้นแต่โมเดลของคุณจะได้รับประโยชน์จากการกรองที่เข้มงวดมากขึ้น
4. โทเค็นการตอบสนองสูงสุด
วิธีนี้จะควบคุมระยะเวลาในการตอบสนองครั้งเดียว เพิ่มเพื่อการเขียนร้อยแก้วที่ยาวขึ้นหรือการเขียนฉากที่มีรายละเอียด
จัดการและสลับค่าที่ตั้งล่วงหน้า
1. การจัดการพรีเซ็ตทั่วโลก
เปิดการตั้งค่าล่วงหน้าเพื่อสร้าง ทำซ้ำ นำเข้า และแก้ไขการกำหนดค่าที่กำหนดไว้ล่วงหน้า
2. การแทนที่พรีเซ็ตระดับแชท
เปิดการตั้งค่าแชทเพื่อกำหนดการตั้งค่าล่วงหน้าเฉพาะให้กับตัวละครหรือการสนทนา เมื่อควรมีพฤติกรรมแตกต่างไปจากค่าเริ่มต้นทั่วไป
คำถามที่พบบ่อย
เหตุใดอุณหภูมิที่สูงขึ้นจึงทำให้การตอบกลับแย่ลง
ค่าอาจสูงเกินไปสำหรับโมเดล ลดระดับลงและพิจารณาใช้ Min P เพื่อลดโทเค็นที่ไม่เสถียร
เหตุใดการเปลี่ยนแปลงที่ตั้งไว้ล่วงหน้าของฉันจึงไม่ส่งผลต่อการแชทปัจจุบัน
การแชทอาจมีการแทนที่ที่กำหนดไว้ล่วงหน้า ตรวจสอบการตั้งค่าการแชทสำหรับการสนทนานั้น
ทำไมโมเดลถึงซ้ำรอยตัวเอง?
ลองปรับการตั้งค่าที่เกี่ยวข้องกับการทำซ้ำ ระยะเวลาในการตอบสนอง และโครงสร้างการแจ้ง บางรุ่นยังซ้ำมากกว่ารุ่นอื่นๆ
ขั้นตอนต่อไป
- คำแนะนำรุ่น GGUF ในเครื่อง: จับคู่ค่าที่ตั้งไว้ล่วงหน้ากับรุ่นในเครื่อง
- SillyTavern Migration: นำเข้าเนื้อหาที่ตั้งไว้ล่วงหน้าที่มีอยู่
- สำรองและกู้คืน: ปกป้องค่าที่ตั้งไว้ล่วงหน้าของคุณ