Tavern Studio Tải xuống / thử nghiệm
Tavern Studio Docs · 04

Định cấu hình API đầu tiên của bạn

Để tạo phản hồi, Tavern Studio cần có mô hình phụ trợ. Hướng dẫn này giải thích cách kết nối API đám mây hoặc điểm cuối tương thích với OpenAI.

Đây là dành cho ai

  • Người dùng muốn sử dụng các mô hình đám mây như các dịch vụ tương thích với OpenAI.
  • Người dùng gặp lỗi kết nối hoặc thiếu danh sách model.
  • Người dùng muốn chỉ định các tuyến mô hình khác nhau cho các cuộc trò chuyện khác nhau.

Bạn sẽ học được gì

  • Ý nghĩa của URL cơ sở, Khóa API và Tên mẫu.
  • Cách hoạt động của các API tương thích với OpenAI.
  • Cách khắc phục các lỗi kết nối thường gặp.
  • Cách ghi đè mô hình cấp trò chuyện phù hợp với quy trình làm việc.

Tại sao phải định cấu hình API?

Tavern Studio quản lý các ký tự và ngữ cảnh lời nhắc của bạn, nhưng một chương trình phụ trợ mô hình sẽ tạo ra văn bản. Kết nối API cho Tavern Studio biết nơi gửi lời nhắc và mô hình nào sẽ phản hồi.

[!WARNING]> Khóa API là thông tin xác thực riêng tư. Không chia sẻ chúng trong ảnh chụp màn hình, nhật ký hoặc bài đăng công khai.

Các loại nhà cung cấp phổ biến

  • Nhà cung cấp đám mây chính thức: các dịch vụ mà bạn có tài khoản trực tiếp và khóa API.
  • Cổng của bên thứ ba: các dịch vụ hiển thị điểm cuối API tương thích.
  • API tương thích với OpenAI: một giao thức phổ biến được nhiều dịch vụ mô hình cục bộ và đám mây sử dụng.

Khóa, URL và mô hình

Mở Cài đặt, tìm phần API và định cấu hình:

  1. Nhà cung cấp: chọn loại nhà cung cấp.
  2. URL cơ sở: nhập URL điểm cuối.
  3. Khóa API: dán khóa riêng của bạn.
  4. Làm mới mẫu: tải các mẫu có sẵn.
  5. Mẫu: chọn mẫu để trò chuyện.

Nếu nhà cung cấp tương thích nhưng danh sách mẫu máy không tải, bạn vẫn có thể nhập tên mẫu máy theo cách thủ công nếu phiên bản ứng dụng hỗ trợ.

Ghi đè cấp độ trò chuyện

Cài đặt API chung xác định chương trình phụ trợ mặc định. Các cuộc trò chuyện riêng lẻ có thể ghi đè mô hình hoặc lộ trình thông qua Cài đặt trò chuyện, điều này rất hữu ích khi các nhân vật khác nhau cần các mô hình hoặc chi phí khác nhau.

Khắc phục sự cố lỗi kết nối

Kiểm tra URL cơ sở

Một số nhà cung cấp yêu cầu/v1, trong khi những nhà cung cấp khác đã bao gồm nó. Tránh trùng lặp hoặc bỏ sót đường dẫn cần thiết.

Kiểm tra cài đặt mạng và proxy

Nếu mạng của bạn không thể kết nối với nhà cung cấp, hãy định cấu hình proxy nếu môi trường của bạn yêu cầu.

Kiểm tra hạn ngạch tài khoản

Tín dụng dùng thử đã hết hạn hoặc số dư không đủ có thể gây ra lỗi xác thực hoặc hạn ngạch ngay cả khi khóa chính xác.

##Câu hỏi thường gặp

###Tại sao tôi có thể làm mới mô hình nhưng trò chuyện vẫn không thành công?

Mô hình đã chọn có thể không có sẵn để tạo cuộc trò chuyện hoặc tên mô hình có thể khác với tên mà nhà cung cấp mong đợi.

Tôi có thể nhập tên mẫu máy theo cách thủ công không?

Sử dụng danh sách mô hình khi có thể. Tên mẫu thủ công phải khớp với mã nhận dạng chính xác của nhà cung cấp.

Tại sao hành vi lại thay đổi sau khi chuyển đổi mô hình?

Các model khác nhau phản hồi khác nhau với cùng một lời nhắc và cài đặt trước. Xem lại cài đặt trước của bạn sau khi thay đổi mô hình.

Các bước tiếp theo