Cách Tải Mô Hình Local LLM (GGUF) Trực Tiếp Vào Ứng Dụng
Việc bắt đầu với các mô hình ngôn ngữ lớn chạy cục bộ (local LLM) thường gặp khó khăn do phải cấu hình các thư mục tải xuống và tương thích file. Tavern Studio đơn giản hóa quá trình này bằng công cụ tải mô hình trực tiếp trong ứng dụng.
Tính năng này cho phép bạn tìm kiếm, tải xuống và tự động cài đặt các mô hình định dạng GGUF mà không cần trình quản lý model bên thứ ba hay phải tải qua trình duyệt.
Các Bước Tải Local Model
- Mở Trình Quản Lý Model: Đi đến khu vực cài đặt "Local Models" (Mô hình nội bộ) trong Tavern Studio.
- Sử Dụng Công Cụ Download: Truy cập chức năng tải model tích hợp (Built-in Downloader).
- Dán Liên Kết GGUF: Nhập đường dẫn trực tiếp trỏ đến tệp GGUF bạn muốn (ví dụ từ Hugging Face).
- Theo Dõi Quá Trình Tải: Thanh tiến trình sẽ hiển thị tốc độ tải và tình trạng file.
- Sử Dụng Ngay: Sau khi hoàn tất, mô hình sẽ tự động hiện trong danh sách các model có sẵn để sử dụng ngay.
Lợi Ích Của Công Cụ Tải Tích Hợp
- Không Yêu Cầu App Bên Ngoài: Tải và chạy thẳng trong một ứng dụng duy nhất.
- Hỗ Trợ Windows & Android: Cả máy tính lẫn điện thoại đều có thể tải file GGUF trực tiếp về bộ nhớ cục bộ.
- Quản Lý Bộ Nhớ Dễ Dàng: Xóa, cập nhật hoặc đổi tên các mô hình ngay trong giao diện người dùng mà không cần mở thư mục file hệ thống.
Câu Hỏi Thường Gặp
Định dạng mô hình nào được hỗ trợ tải?
Tavern Studio hỗ trợ các mô hình có đuôi .gguf. Các định dạng cũ như .bin hay safetensors hiện không được hỗ trợ để chạy trực tiếp.
Có giới hạn dung lượng tải xuống không?
Dung lượng giới hạn chỉ phụ thuộc vào khoảng trống ổ cứng/bộ nhớ trong thiết bị của bạn. Lưu ý điện thoại Android cần đủ dung lượng trống để chứa các file GGUF thường nặng từ 2GB trở lên.