Thiết Lập API Tương Thích OpenAI Cho Chat Bot

Giao thức API của OpenAI đã trở thành tiêu chuẩn chung (de facto) trong thế giới AI. Dù bạn muốn kết nối tới một máy chủ cục bộ (như LM Studio, Ollama, Text-generation-webui) hay các dịch vụ cung cấp đa mô hình (như OpenRouter), bạn đều có thể dễ dàng liên kết chúng với Tavern Studio thông qua chuẩn API tương thích OpenAI (OpenAI-compatible).

Cách Thiết Lập Cổng Kết Nối

1. Mở Cài Đặt API: Trong Tavern Studio, tìm đến bảng cấu hình API Models.
2. Chọn Loại Kết Nối: Đặt loại giao thức là "OpenAI Compatible".
3. Cấu Hình API URL (Endpoint Base URL):

• Đối với Ollama: Nhập http://127.0.0.1:11434/v1
• Đối với LM Studio: Nhập http://127.0.0.1:1234/v1
• Đối với OpenRouter: Nhập https://openrouter.ai/api/v1

1. Nhập API Key:

• Với các dịch vụ như OpenRouter, nhập Key của bạn.
• Với các server chạy local (Ollama, LM Studio), bạn có thể nhập sk-dummy hoặc bất kỳ ký tự nào, vì server ở nhà không bắt buộc xác thực key.

1. Chọn Model: Khi nhập xong URL, hãy tải lại danh sách mô hình, Tavern Studio sẽ tự động lấy các tên model có sẵn từ endpoint của bạn.

Câu Hỏi Thường Gặp

Lỗi kết nối CORS / Failed to fetch?

Nếu bạn chạy backend và ứng dụng không thể kết nối, hãy đảm bảo tính năng CORS (Cross-Origin Resource Sharing) đã được bật trong phần mềm máy chủ (ví dụ trên LM Studio có nút công tắc CORS).

Tôi cấu hình đúng nhưng app vẫn báo sai model?

Kiểm tra xem mục "Custom Model Name" có vô tình bị gõ sai cú pháp tên model (ví dụ thay vì llama-3-8b lại ghi sai thành llama3-8B). OpenRouter cực kỳ nghiêm ngặt về việc viết hoa viết thường của model ID.