Tavern Studio Download
Tavern Studio Guide - VI

Nhập Các Thiết Lập Preset Định Dạng JSON

Để một AI model phát huy hết khả năng trong các tình huống nhập vai, bạn cần thiết lập thông số (Temperature, Repetition Penalty, Top-P, v.v.) và định dạng prompt hệ thống (System Prompt, Instruct Format) một cách chính xác. Các thiết lập này thường được lưu dưới dạng file "Preset".

Tavern Studio hỗ trợ import các preset định dạng JSON, đặc biệt là các cấu hình tương thích với OpenAI hoặc các định dạng generation parameters phổ biến trong hệ sinh thái AI roleplay.

Cách Import Preset

  1. Chuẩn Bị File JSON: Đảm bảo bạn có file JSON chứa cấu hình preset mong muốn (ví dụ như file được export từ người dùng SillyTavern khác).
  2. Mở Quản Lý Preset: Vào khu vực "Generation Presets" hoặc "Prompt Manager" trong phần cấu hình của app.
  3. Sử Dụng Công Cụ Import: Click vào "Import Preset" và duyệt chọn file JSON của bạn.
  4. Kiểm Tra Thông Số: Sau khi nạp thành công, hãy bấm vào preset để xem xét các thanh kéo (slider) như độ sáng tạo (temperature) đã được chuyển đúng chưa.
  5. Gắn Kèm Với API: Áp dụng preset này vào các kết nối API tương ứng hoặc các mô hình GGUF local.

Lợi Ích Của Việc Tái Sử Dụng Preset

  • Tiết kiệm thời gian: Không cần phải tinh chỉnh từng con số khi thử nghiệm một model mới.
  • Chuẩn hóa văn phong: Đảm bảo các mô hình luôn nhận được lệnh hệ thống theo một khuôn mẫu (như Alpaca, ChatML, hoặc Llama-3 format).
  • Tránh ảo giác (Hallucination): Các preset cộng đồng thường đã được tối ưu hóa tham số Repetition Penalty và Temperature để tránh việc AI lặp chữ hoặc nói quá đà.

Câu Hỏi Thường Gặp

Tại sao sau khi import preset, câu trả lời của AI bị hỏng định dạng?

Nếu AI trả lời hỏng hoặc phát sinh mã lỗi, có thể phần Instruct Format (như thẻ <|im_start|>) không khớp với kiến trúc model bạn đang chạy. Hãy kiểm tra lại phần Prompt Formatting của preset xem đã đúng với dòng model (như Llama, Mistral hay ChatML) chưa.

Tôi có thể import preset của một ứng dụng khác không?

Tavern Studio tối ưu nhất cho các preset được xuất ra từ hệ sinh thái SillyTavern và các định dạng tham số chuẩn OpenAI. Các cấu trúc JSON lạ có thể bị khuyết thiếu một số tham số nhỏ.