Tavern Studio Завантажити / тестувати
Tavern Studio Docs · 04

Налаштуйте свій перший API

Щоб генерувати відповіді, Tavern Studio потрібен модель серверної частини. У цьому посібнику пояснюється, як підключити хмарний API або кінцеву точку, сумісну з OpenAI.

Для кого це

  • Користувачі, які хочуть використовувати хмарні моделі, такі як OpenAI-сумісні служби.
  • Користувачі бачать помилки підключення або відсутні списки моделей.
  • Користувачі, які хочуть призначити різні моделі маршрутів для різних чатів.

Що ви дізнаєтесь

  • Що означають базова URL-адреса, ключ API та назва моделі.
  • Як працюють API, сумісні з OpenAI.
  • Як усунути типові збої підключення.
  • Як зміни моделі на рівні чату вписуються в робочий процес.

Навіщо налаштовувати API?

Tavern Studio керує вашими персонажами та контекстом підказок, але бекенд моделі генерує текст. З’єднання API повідомляє Tavern Studio, куди надсилати запит і яка модель має відповісти.

[!WARNING]> Ключі API є приватними обліковими даними. Не діліться ними на скріншотах, журналах або публічних публікаціях.

Поширені типи провайдерів

  • Офіційні хмарні постачальники: служби, у яких у вас є прямий обліковий запис і ключ API.
  • Сторонні шлюзи: служби, які надають сумісну кінцеву точку API.
  • API, сумісні з OpenAI: загальний протокол, який використовується багатьма хмарними та локальними модельними службами.

Ключ, URL-адреса та модель

Відкрийте Налаштування, знайдіть розділ API та налаштуйте:

  1. Постачальник: виберіть тип постачальника.
  2. Базова URL-адреса: введіть URL-адресу кінцевої точки.
  3. API Key: вставте свій закритий ключ.
  4. Оновити моделі: завантажити доступні моделі.
  5. Модель: виберіть модель для чату.

Якщо постачальник сумісний, але список моделей не завантажується, ви все одно зможете ввести назву моделі вручну, якщо версія програми це підтримує.

Перевизначення рівня чату

Глобальні налаштування API визначають серверну програму за замовчуванням. Індивідуальні чати можуть замінити модель або маршрут через налаштування чату, що корисно, коли різним персонажам потрібні різні моделі або витрати.

Усунення несправностей підключення

Перевірте базову URL-адресу

Деякі постачальники вимагають/v1, а інші вже включають його. Уникайте дублювання або пропуску необхідного шляху.

Перевірте налаштування мережі та проксі

Якщо ваша мережа не може зв’язатися з постачальником, налаштуйте проксі-сервер, якщо його вимагає ваше середовище.

Перевірте квоту облікового запису

Пробні кредити, термін дії яких закінчився, або недостатній баланс можуть спричинити помилки автентифікації або квоти, навіть якщо ключ правильний.

FAQ

Чому я можу оновити моделі, але чат все одно не працює?

Вибрана модель може бути недоступною для створення чату, або назва моделі може відрізнятися від очікуваної постачальником.

Чи можу я ввести назву моделі вручну?

По можливості використовуйте список моделей. Назви моделі вручну мають відповідати точному ідентифікатору постачальника.

Чому поведінка змінилася після зміни моделі?

Різні моделі по-різному реагують на той самий запит і попередні налаштування. Перегляньте свій попередній набір після зміни моделі.

Наступні кроки