กำหนดค่า API แรกของคุณ
หากต้องการสร้างการตอบกลับ Tavern Studio จำเป็นต้องมีแบ็กเอนด์โมเดล คู่มือนี้จะอธิบายวิธีเชื่อมต่อ Cloud API หรือตำแหน่งข้อมูลที่รองรับ OpenAI
สิ่งนี้เพื่อใคร
- ผู้ใช้ที่ต้องการใช้โมเดลคลาวด์ เช่น บริการที่รองรับ OpenAI
- ผู้ใช้เห็นข้อผิดพลาดในการเชื่อมต่อหรือรายการรุ่นหายไป
- ผู้ใช้ที่ต้องการกำหนดเส้นทางโมเดลที่แตกต่างกันให้กับแชทต่างๆ
สิ่งที่คุณจะได้เรียนรู้
- URL พื้นฐาน, คีย์ API และชื่อรุ่นหมายถึงอะไร
- API ที่เข้ากันได้กับ OpenAI ทำงานอย่างไร
- วิธีแก้ไขปัญหาการเชื่อมต่อล้มเหลวทั่วไป
- การแทนที่โมเดลระดับแชทเหมาะสมกับเวิร์กโฟลว์อย่างไร
ทำไมต้องกำหนดค่า API
Tavern Studio จัดการตัวละครของคุณและบริบทที่รวดเร็ว แต่แบ็กเอนด์โมเดลจะสร้างข้อความ การเชื่อมต่อ API จะบอก Tavern Studio ว่าจะส่งข้อความแจ้งไปที่ใด และโมเดลใดควรตอบสนอง
[!WARNING]> คีย์ API เป็นข้อมูลประจำตัวส่วนตัว อย่าแชร์ภาพหน้าจอ บันทึก หรือโพสต์สาธารณะ
ประเภทผู้ให้บริการทั่วไป
- ผู้ให้บริการคลาวด์อย่างเป็นทางการ: บริการที่คุณมีบัญชีโดยตรงและคีย์ API
- เกตเวย์บุคคลที่สาม: บริการที่เปิดเผยจุดสิ้นสุด API ที่เข้ากันได้
- API ที่เข้ากันได้กับ OpenAI: โปรโตคอลทั่วไปที่ใช้โดยบริการคลาวด์และโมเดลภายในเครื่องจำนวนมาก
คีย์, URL และรุ่น
เปิด การตั้งค่า ค้นหาส่วน API และกำหนดค่า:
- ผู้ให้บริการ: เลือกประเภทผู้ให้บริการ
- Base URL: ป้อน URL ปลายทาง
- คีย์ API: วางคีย์ส่วนตัวของคุณ
- รีเฟรชโมเดล: โหลดโมเดลที่มี
- รุ่น: เลือกรุ่นสำหรับการแชท
หากผู้ให้บริการเข้ากันได้แต่รายการรุ่นไม่โหลด คุณอาจยังสามารถป้อนชื่อรุ่นด้วยตนเองได้หากเวอร์ชันของแอปรองรับ
การแทนที่ระดับแชท
การตั้งค่า Global API จะกำหนดแบ็กเอนด์เริ่มต้น การแชทแต่ละรายการอาจแทนที่โมเดลหรือเส้นทางผ่านการตั้งค่าแชท ซึ่งมีประโยชน์เมื่อตัวละครที่ต่างกันต้องการโมเดลหรือค่าใช้จ่ายที่แตกต่างกัน
การแก้ไขปัญหาการเชื่อมต่อล้มเหลว
ตรวจสอบ URL ฐาน
ผู้ให้บริการบางรายต้องการ/v1ในขณะที่ผู้ให้บริการบางรายรวมไว้แล้ว หลีกเลี่ยงการทำซ้ำหรือละเว้นเส้นทางที่ต้องการ
ตรวจสอบการตั้งค่าเครือข่ายและพร็อกซี
หากเครือข่ายของคุณไม่สามารถเข้าถึงผู้ให้บริการได้ ให้กำหนดค่าพร็อกซีหากสภาพแวดล้อมของคุณต้องการ
ตรวจสอบโควต้าบัญชี
เครดิตทดลองใช้ที่หมดอายุหรือยอดคงเหลือไม่เพียงพออาจทำให้เกิดการตรวจสอบสิทธิ์หรือข้อผิดพลาดโควต้าแม้ว่าคีย์จะถูกต้องก็ตาม
คำถามที่พบบ่อย
เหตุใดฉันจึงสามารถรีเฟรชโมเดลได้แต่การแชทยังคงล้มเหลว
โมเดลที่เลือกอาจไม่สามารถใช้ได้สำหรับการสร้างแชท หรือชื่อรุ่นอาจแตกต่างจากที่ผู้ให้บริการคาดหวัง
ฉันสามารถพิมพ์ชื่อรุ่นด้วยตนเองได้หรือไม่?
ใช้รายการรุ่นเมื่อเป็นไปได้ ชื่อรุ่นด้วยตนเองควรตรงกับตัวระบุที่แท้จริงของผู้ให้บริการ
เหตุใดพฤติกรรมจึงเปลี่ยนไปหลังจากเปลี่ยนรุ่น
รุ่นต่างๆ ตอบสนองต่อพรอมต์และการตั้งค่าล่วงหน้าเดียวกันต่างกัน ตรวจสอบค่าที่ตั้งล่วงหน้าของคุณหลังจากเปลี่ยนรุ่น
ขั้นตอนต่อไป
- เริ่มแชทครั้งแรกของคุณ: ทดสอบโมเดลในการสนทนาจริง
- พื้นฐานที่ตั้งไว้ล่วงหน้า: ปรับแต่งพฤติกรรมการสร้าง
- คู่มือโมเดล GGUF ในเครื่อง: ลองใช้โมเดลในเครื่อง