İlk API'nizi Yapılandırın
Yanıtlar oluşturmak için Tavern Studio'nun bir model arka ucuna ihtiyacı var. Bu kılavuzda bir bulut API'sinin veya OpenAI uyumlu uç noktanın nasıl bağlanacağı açıklanmaktadır.
Bu kimin için
- OpenAI uyumlu hizmetler gibi bulut modellerini kullanmak isteyen kullanıcılar.
- Bağlantı hatalarını veya eksik model listelerini gören kullanıcılar.
- Farklı sohbetlere farklı model rotalar atamak isteyen kullanıcılar.
Ne öğreneceksiniz
- Temel URL, API Anahtarı ve Model Adının anlamı.
- OpenAI uyumlu API'ler nasıl çalışır?
- Yaygın bağlantı hataları nasıl giderilir.
- Sohbet düzeyindeki model geçersiz kılma işlemlerinin iş akışına nasıl uyacağı.
Neden bir API yapılandırmalıyım?
Tavern Studio karakterlerinizi ve bilgi istemi bağlamını yönetir, ancak metni bir model arka ucu oluşturur. API bağlantısı, Tavern Studio'ya istemin nereye gönderileceğini ve hangi modelin yanıt vermesi gerektiğini söyler.
[!WARNING]> API anahtarları özel kimlik bilgileridir. Bunları ekran görüntülerinde, günlüklerde veya herkese açık gönderilerde paylaşmayın.
Yaygın sağlayıcı türleri
- Resmi bulut sağlayıcıları: doğrudan hesabınızın ve API anahtarınızın olduğu hizmetler.
- Üçüncü taraf ağ geçitleri: uyumlu bir API uç noktasını kullanıma sunan hizmetler.
- OpenAI uyumlu API'ler: birçok bulut ve yerel model hizmeti tarafından kullanılan ortak bir protokol.
Anahtar, URL ve model
Ayarlar'ı açın, API bölümünü bulun ve yapılandırın:
- Sağlayıcı: sağlayıcı türünü seçin.
- Temel URL: uç nokta URL'sini girin.
- API Anahtarı: özel anahtarınızı yapıştırın.
- Modelleri Yenile: mevcut modelleri yükleyin.
- Model: sohbet için modeli seçin.
Sağlayıcı uyumluysa ancak model listesi yüklenmiyorsa, uygulama sürümü destekliyorsa yine de model adını manuel olarak girebilirsiniz.
Sohbet düzeyinde geçersiz kılmalar
Global API ayarları varsayılan arka ucu tanımlar. Bireysel sohbetler, Sohbet Ayarları aracılığıyla modeli veya rotayı geçersiz kılabilir; bu, farklı karakterler farklı modellere veya maliyetlere ihtiyaç duyduğunda kullanışlıdır.
Bağlantı hatalarında sorun giderme
Temel URL'yi kontrol edin
Bazı sağlayıcılar/v1'yi zorunlu tutarken bazıları zaten bunu içeriyor. Gerekli yolu kopyalamaktan veya atlamaktan kaçının.
Ağ ve proxy ayarlarını kontrol edin
Ağınız sağlayıcıya ulaşamıyorsa ortamınız gerektiriyorsa bir proxy yapılandırın.
Hesap kotasını kontrol edin
Süresi dolmuş deneme kredileri veya yetersiz bakiye, anahtar doğru olsa bile kimlik doğrulama veya kota hatalarına neden olabilir.
SSS
Neden modelleri yenileyebiliyorum ama sohbet hâlâ başarısız oluyor?
Seçilen model sohbet oluşturmak için kullanılamayabilir veya model adı sağlayıcının beklediğinden farklı olabilir.
Bir model adını manuel olarak yazabilir miyim?
Mümkün olduğunda model listesini kullanın. Manuel model adları, sağlayıcının tanımlayıcısıyla tam olarak eşleşmelidir.
Model değiştirdikten sonra davranış neden değişti?
Farklı modeller aynı istem ve ön ayara farklı yanıt verir. Modelleri değiştirdikten sonra ön ayarınızı gözden geçirin.
Sonraki adımlar
- İlk Sohbetinizi Başlatın: modeli gerçek bir sohbette test edin.
- Önayar Temelleri: ayarlama oluşturma davranışı.
- Yerel GGUF Model Kılavuzu: yerel model yürütmeyi deneyin.