Tavern Studio Tải xuống / thử nghiệm
Tavern Studio Docs · 08

Thông tin cơ bản cài sẵn

Các cài đặt trước kiểm soát cách mô hình viết. Chúng kết hợp các tham số tạo và cấu trúc lời nhắc để bạn có thể sử dụng lại một kiểu trong các cuộc trò chuyện.

Đây là dành cho ai

  • Người dùng có câu trả lời cảm thấy lặp đi lặp lại, quá ngắn hoặc quá hỗn loạn.
  • Người dùng muốn hiểu Nhiệt độ, Top P và Min P.
  • Người dùng cần các cài đặt khác nhau cho các ký tự hoặc kiểu máy khác nhau.

Bạn sẽ học được gì

  • Cài đặt trước là gì.
  • Các thông số lấy mẫu phổ biến ảnh hưởng như thế nào đến việc nhập vai.
  • Cách quản lý cài đặt trước chung.
  • Cách ghi đè cài đặt trước cho một cuộc trò chuyện cụ thể.

Thông số lấy mẫu chính

1. Nhiệt độ

Nhiệt độ kiểm soát tính ngẫu nhiên. Giá trị cao hơn có thể khiến câu trả lời trở nên sáng tạo hơn nhưng quá cao có thể khiến kết quả đầu ra không ổn định hoặc vô nghĩa.

2. Tối thiểu P

Min P lọc các mã thông báo có xác suất thấp so với mã thông báo có khả năng xảy ra cao nhất. Nó có thể giúp duy trì sự sáng tạo trong khi giảm kết quả đầu ra không mạch lạc.

3. Top P và Top K

Top P và Top K giới hạn nhóm mã thông báo ứng cử viên. Nếu Min P đang hoạt động, bạn có thể giữ Top P ít hạn chế hơn trừ khi mô hình của bạn được hưởng lợi từ việc lọc chặt chẽ hơn.

4. Mã thông báo phản hồi tối đa

Điều này kiểm soát thời lượng của một phản hồi. Tăng nó để văn xuôi dài hơn hoặc viết cảnh chi tiết.

Quản lý và chuyển đổi cài đặt trước

1. Quản lý cài sẵn chung

Mở Presets để tạo, sao chép, nhập và chỉnh sửa các cấu hình cài sẵn.

2. Ghi đè cài đặt sẵn ở cấp độ trò chuyện

Mở Cài đặt trò chuyện để chỉ định một giá trị đặt trước cụ thể cho một nhân vật hoặc cuộc trò chuyện khi nó hoạt động khác với mặc định chung.

##Câu hỏi thường gặp

Tại sao Nhiệt độ cao hơn lại khiến phản hồi tệ hơn?

Giá trị có thể quá cao đối với mô hình. Hạ thấp nó và cân nhắc sử dụng Min P để giảm số token không ổn định.

Tại sao những thay đổi cài sẵn của tôi không ảnh hưởng đến cuộc trò chuyện hiện tại?

Cuộc trò chuyện có thể có phần ghi đè cài sẵn. Kiểm tra Cài đặt trò chuyện cho cuộc trò chuyện đó.

Tại sao mô hình lại lặp lại?

Hãy thử điều chỉnh các cài đặt liên quan đến sự lặp lại, độ dài phản hồi và cấu trúc lời nhắc. Một số mô hình cũng lặp lại nhiều hơn những mô hình khác.

Các bước tiếp theo