OpenAI Uyumlu Özel API Bağlantısı (Custom Endpoint)

Tavern Studio kendi yerel modellerini çalıştırabiliyor olsa da, halihazırda LM Studio, Ollama, Text Generation WebUI (Oobabooga) veya KoboldCPP gibi farklı bir yazılımı arka planda (backend) çalıştırıyor olabilirsiniz.

İyi haber şu ki, Tavern Studio standart OpenAI API formatını destekler. Bu format endüstri standardı haline geldiği için, OpenAI uyumlu (Custom Endpoint) bir adres girerek herhangi bir üçüncü parti yazılımı Tavern Studio arayüzüne bağlayabilirsiniz.

Adım Adım Kurulum

1. Backend Uygulamanızı Başlatın

Tercih ettiğiniz uygulamayı çalıştırın. Örneğin LM Studio'da "Local Server" sekmesine gidin ve sunucuyu başlatın. (Ollama için genellikle arka planda localhost:11434 adresinde çalışır).

2. URL Formatını Bulun

Çalıştırdığınız uygulamanın OpenAI uyumlu adresini alın. Genellikle şunlara benzer:

• LM Studio: http://localhost:1234/v1
• KoboldCPP: http://localhost:5001/v1
• Ollama: http://localhost:11434/v1

3. Tavern Studio'ya Bağlayın

Tavern Studio'yu açın ve Ayarlar > API Bağlantıları menüsüne gidin. "OpenAI (Custom Endpoint)" seçeneğini seçin ve kopyaladığınız yerel adresi (URL) ilgili alana yapıştırın. Yerel uygulamalar genellikle API Anahtarı (API Key) istemez, bu nedenle oraya "sk-1234" gibi rastgele bir metin girebilirsiniz.

4. Bağlantıyı Test Edin

Modeller listesini güncelle düğmesine basın. Eğer Tavern Studio arkaplan yazılımınızdaki modeli görüyorsa kurulum başarılı demektir. Artık Tavern Studio'nun arayüzünü kendi sunucunuzla birlikte kullanabilirsiniz.