วิธีดาวน์โหลดและติดตั้งโมเดล Local LLM (GGUF)

การจะรัน AI บนเครื่องของคุณเองผ่าน Tavern Studio สิ่งแรกที่ต้องมีคือไฟล์ "โมเดล" แหล่งรวมโมเดลที่ใหญ่ที่สุดคือเว็บไซต์ Hugging Face ซึ่งมีผู้พัฒนาและปรับจูนโมเดลสำหรับงาน Roleplay โดยเฉพาะ

ขั้นตอนการหาและดาวน์โหลด

  1. ไปที่ Hugging Face: ค้นหาชื่อโมเดลที่คุณสนใจ แล้วเติมคำว่า "GGUF" ลงไป (เช่น Llama-3-8B-Instruct GGUF)
  2. เลือกขนาดไฟล์ที่เหมาะสม: ไฟล์ GGUF จะมีการบีบอัด (Quantization) หลายระดับ เช่น Q4_K_M (สมดุล) หรือ Q8_0 (คุณภาพสูงแต่กินสเปค) ให้เลือกขนาดที่ RAM ของคุณรับไหว
  3. ดาวน์โหลดและวางไฟล์: โหลดไฟล์ .gguf มาเก็บไว้ในเครื่อง
  4. โหลดใน Tavern Studio: เปิดแอป ไปที่เมนูตั้งค่า Local LLM กดเลือกไฟล์ที่โหลดมา แล้วกด Load Model

เพียงเท่านี้ คุณก็พร้อมแชทกับ AI โดยไม่ต้องพึ่งพาอินเทอร์เน็ตอีกต่อไป!