Настройка OpenAI-совместимого API в Tavern Studio
Настройка OpenAI-совместимого API обычно требует трех вещей: базового URL-адреса (base URL), API-ключа или токена (при необходимости) и идентификатора модели (model ID). Tavern Studio отделяет эти конфигурации провайдеров от карточек персонажей и пресетов, чтобы вы могли переключать маршруты моделей, не переписывая настройки самих персонажей.
Многие провайдеры и локальные серверы предоставляют API в стиле OpenAI /chat/completions. Некоторые этого не делают, поэтому всегда сверяйтесь с документацией конкретного провайдера.
Для кого это руководство
- Пользователи, подключающие OpenAI-совместимые облачные сервисы.
- Разработчики, использующие локальные серверы моделей.
- Пользователи с собственными шлюзами данных или обратными прокси.
- Пользователи SillyTavern, переносящие настройки API.
Основное содержание
OpenAI-совместимый эндпоинт обычно использует авторизацию через Bearer-токен и тело запроса генерации чата с параметрами model и messages. Локальные серверы могут не требовать API-ключей. Кастомные шлюзы могут добавлять свои собственные заголовки, идентификаторы аккаунтов или пути.
Не сохраняйте детальные данные провайдера внутри карточек персонажей. Держите персонажей, пресеты и маршруты моделей раздельно.
Как Tavern Studio обрабатывает это
Tavern Studio поддерживает настройку OpenAI-совместимых API и может автоматически сопоставлять популярные сервисы во время миграции из SillyTavern. Кастомные эндпоинты, локальные службы, обратные прокси, Azure OpenAI, Cloudflare Workers AI, отсутствующие базовые URL-адреса и отсутствующие модели по умолчанию могут потребовать ручной настройки.
Сборщик промптов подготавливает структурированные массивы сообщений для отправки по маршрутам в стиле OpenAI.
Шаги по настройке
- Открыть настройки подключения API или моделей.
- Выбрать OpenAI-совместимый маршрут.
- Ввести базовый URL-адрес.
- Ввести API-ключ, если эндпоинт требует авторизации.
- Ввести или выбрать идентификатор модели.
- Сохранить подключение.
- Отправить короткое тестовое сообщение.
- Привязать созданный маршрут к нужному чату или пресету.
FAQ
Что такое OpenAI-совместимый API?
Это эндпоинт, который использует схему запросов и ответов в стиле OpenAI, обычно включающую /chat/completions.
Можно ли использовать локальный сервер?
Да, если сервер предоставляет совместимый API, а настройки базового URL и модели указаны верно.
Обходит ли Tavern Studio проверку API-ключей провайдеров?
Нет. Используйте действующие учетные данные от провайдера или вашей локальной службы.
Почему мой эндпоинт не работает?
Распространенные причины включают неверный базовый URL-адрес, отсутствие /v1 в пути, неверный идентификатор модели, недействительный ключ, проблемы с прокси-сервером или специфические особенности конкретного провайдера.
Может ли один персонаж использовать несколько эндпоинтов?
Одного и того же персонажа можно тестировать с разными маршрутами, переключая настройки чата, модели и пресеты.
Следующий шаг
- Сравнить маршрутизацию в облаке в руководстве Облачный API чат-клиент.
- Использовать локальные альтернативы по инструкции Запуск локальных LLM на Windows.
- Управлять поведением генерации в руководстве Менеджер пресетов и системных промптов.