Tavern Studio Загрузка/тестирование
Tavern Studio Docs · 04

Настройте свой первый API

Для генерации ответов Tavern Studio требуется серверная часть модели. В этом руководстве объясняется, как подключить облачный API или конечную точку, совместимую с OpenAI.

Для кого это

  • Пользователи, которые хотят использовать облачные модели, такие как сервисы, совместимые с OpenAI.
  • Пользователи видят ошибки подключения или отсутствующие списки моделей.
  • Пользователи, которые хотят назначить разные маршруты моделей для разных чатов.

Чему вы научитесь

  • Что означают базовый URL-адрес, ключ API и имя модели.
  • Как работают API-интерфейсы, совместимые с OpenAI.
  • Как устранить распространенные сбои подключения.
  • Как переопределения модели на уровне чата вписываются в рабочий процесс.

Зачем настраивать API?

Tavern Studio управляет вашими персонажами и контекстом подсказок, а серверная часть модели генерирует текст. Соединение API сообщает Tavern Studio, куда отправлять запрос и какая модель должна ответить.

[!WARNING]> Ключи API являются личными учетными данными. Не делитесь ими на скриншотах, в журналах или общедоступных публикациях.

Распространенные типы поставщиков

  • Официальные облачные провайдеры: сервисы, в которых у вас есть прямая учетная запись и ключ API.
  • Сторонние шлюзы: службы, предоставляющие совместимую конечную точку API.
  • API-интерфейсы, совместимые с OpenAI: общий протокол, используемый многими облачными и локальными службами моделей.

Ключ, URL и модель

Откройте Настройки, найдите раздел API и настройте:

  1. Поставщик: выберите тип поставщика.
  2. Базовый URL: введите URL-адрес конечной точки.
  3. Ключ API: вставьте свой закрытый ключ.
  4. Обновить модели: загрузка доступных моделей.
  5. Модель: выберите модель для чата.

Если поставщик совместим, но список моделей не загружается, вы все равно сможете ввести название модели вручную, если версия приложения поддерживает это.

Переопределения на уровне чата

Глобальные настройки API определяют серверную часть по умолчанию. Отдельные чаты могут переопределять модель или маршрут через настройки чата, что полезно, когда разным персонажам нужны разные модели или цены.

Устранение неполадок с подключением

Проверьте базовый URL-адрес

Некоторые провайдеры требуют/v1, а другие уже включают его. Избегайте дублирования или пропуска требуемого пути.

Проверьте настройки сети и прокси-сервера

Если ваша сеть не может связаться с провайдером, настройте прокси-сервер, если он требуется для вашей среды.

Проверьте квоту аккаунта

Истекшие пробные кредиты или недостаточный баланс могут привести к ошибкам аутентификации или квоты, даже если ключ правильный.

Часто задаваемые вопросы

Почему я могу обновить модели, но чат по-прежнему не работает?

Выбранная модель может быть недоступна для создания чата, либо название модели может отличаться от ожидаемого провайдером.

Могу ли я ввести название модели вручную?

По возможности используйте список моделей. Названия моделей, введенных вручную, должны соответствовать точному идентификатору поставщика.

Почему поведение изменилось после смены модели?

Разные модели по-разному реагируют на одну и ту же подсказку и предустановку. Просмотрите предустановку после смены модели.

Следующие шаги