Konfigurasikan API Pertama Anda
Untuk menghasilkan balasan, Tavern Studio memerlukan backend model. Panduan ini menjelaskan cara menghubungkan API cloud atau titik akhir yang kompatibel dengan OpenAI.
Untuk siapa ini
- Pengguna yang ingin menggunakan model cloud seperti layanan yang kompatibel dengan OpenAI.
- Pengguna melihat kesalahan koneksi atau daftar model hilang.
- Pengguna yang ingin menetapkan rute model berbeda ke obrolan berbeda.
Apa yang akan Anda pelajari
- Apa arti URL Dasar, Kunci API, dan Nama Model.
- Cara kerja API yang kompatibel dengan OpenAI.
- Cara memecahkan masalah kegagalan koneksi yang umum.
- Bagaimana penggantian model tingkat obrolan sesuai dengan alur kerja.
Mengapa mengonfigurasi API?
Tavern Studio mengelola karakter dan konteks prompt Anda, tetapi backend model menghasilkan teks. Koneksi API memberi tahu Tavern Studio ke mana harus mengirim perintah dan model mana yang harus merespons.
[!WARNING]> Kunci API adalah kredensial pribadi. Jangan membagikannya di tangkapan layar, log, atau postingan publik.
Jenis penyedia umum
- Penyedia cloud resmi: layanan di mana Anda memiliki akun langsung dan kunci API.
- Gateway pihak ketiga: layanan yang mengekspos titik akhir API yang kompatibel.
- API yang kompatibel dengan OpenAI: protokol umum yang digunakan oleh banyak layanan cloud dan model lokal.
Kunci, URL, dan model
Buka Pengaturan, temukan bagian API, dan konfigurasikan:
- Penyedia: pilih jenis penyedia.
- URL Dasar: masukkan URL titik akhir.
- Kunci API: tempelkan kunci pribadi Anda.
- Segarkan Model: memuat model yang tersedia.
- Model: pilih model untuk mengobrol.
Jika penyedia kompatibel namun daftar model tidak dimuat, Anda mungkin masih dapat memasukkan nama model secara manual jika versi aplikasi mendukungnya.
Penggantian tingkat obrolan
Pengaturan API global menentukan backend default. Obrolan individu dapat mengesampingkan model atau rute melalui Pengaturan Obrolan, yang berguna ketika karakter yang berbeda memerlukan model atau biaya yang berbeda.
Memecahkan masalah kegagalan koneksi
Periksa URL Dasar
Beberapa penyedia memerlukan/v1, sementara yang lain sudah menyertakannya. Hindari menduplikasi atau menghilangkan jalur yang diperlukan.
Periksa pengaturan jaringan dan proxy
Jika jaringan Anda tidak dapat menjangkau penyedia, konfigurasikan proksi jika lingkungan Anda memerlukannya.
Periksa kuota akun
Kredit uji coba yang kedaluwarsa atau saldo tidak mencukupi dapat menyebabkan kesalahan autentikasi atau kuota meskipun kuncinya benar.
Pertanyaan Umum
Mengapa saya dapat menyegarkan model tetapi obrolan masih gagal?
Model yang dipilih mungkin tidak tersedia untuk pembuatan obrolan, atau nama model mungkin berbeda dari yang diharapkan penyedia.
Bisakah saya mengetikkan nama model secara manual?
Gunakan daftar model bila memungkinkan. Nama model manual harus sesuai dengan pengenal persis penyedia.
Mengapa perilaku berubah setelah berganti model?
Model yang berbeda merespons secara berbeda terhadap perintah dan preset yang sama. Tinjau preset Anda setelah mengganti model.
Langkah selanjutnya
- Mulai Obrolan Pertama Anda: uji model dalam percakapan nyata.
- Dasar-Dasar Preset: perilaku pembuatan lagu.
- Panduan Model GGUF Lokal: coba eksekusi model lokal.