Настройка первого API
Для генерации ответов Tavern Studio требуется бэкенд модели. В этом руководстве объясняется, как подключить облачный API или OpenAI-совместимый эндпоинт.
Кому это подходит
- Пользователям, которые хотят работать с облачными моделями (например, через OpenAI-совместимые сервисы).
- Пользователям, которые сталкиваются с ошибками подключения или проблемой отсутствия моделей в списке.
- Пользователям, которые хотят назначить разные бэкенды моделей для разных чатов.
Чему вы научитесь
- Что означают понятия Базовый URL (Base URL), API-ключ (API Key) и Название модели (Model Name).
- Как работают OpenAI-совместимые API.
- Как устранять типичные сбои при подключении.
- Как использовать переопределение моделей на уровне конкретного чата.
Зачем настраивать API?
Tavern Studio управляет вашими персонажами и контекстом промптов, но генерацией текста занимается бэкенд модели. API-подключение указывает Tavern Studio, куда отправлять промпт и какая модель должна отвечать.
Распространенные типы провайдеров
- Официальные облачные провайдеры: сервисы, где у вас есть личный аккаунт и собственный API-ключ.
- Сторонние шлюзы (прокси-сервисы): службы, предоставляющие совместимый эндпоинт API.
- OpenAI-совместимые API: универсальный протокол, используемый многими облачными платформами и локальными бэкендами.
Ключ, URL-адрес и выбор модели
Откройте раздел Настройки (Settings), найдите вкладку API и задайте следующие параметры:
- Провайдер: выбрать тип провайдера.
- Базовый URL (Base URL): ввести URL-адрес эндпоинта.
- API-ключ (API Key): вставить свой приватный ключ.
- Обновить модели (Refresh Models): обновить список для загрузки доступных моделей.
- Модель: выбрать модель для чата.
Если провайдер совместим, но список моделей не загружается автоматически, вы все равно можете ввести название модели вручную (если это поддерживается текущей версией приложения).
Переопределения на уровне чата
Глобальные настройки API задают бэкенд по умолчанию. Вы можете переопределить модель или эндпоинт для отдельного диалога в «Настройках чата» (Chat Settings), что удобно, если разным персонажам требуются определенные модели или если вы хотите оптимизировать расходы.
Устранение неполадок с подключением
Проверьте Базовый URL
Некоторые провайдеры требуют наличия пути /v1 в конце URL, другие же включают его по умолчанию. Следите за тем, чтобы не дублировать и не пропускать этот сегмент пути.
Проверьте настройки сети и прокси
Если ваше сетевое окружение блокирует доступ к провайдеру, настройте прокси-сервер в параметрах приложения.
Проверьте баланс аккаунта
Истекший срок действия пробного периода или недостаточный баланс на счете могут вызывать ошибки авторизации или лимитов, даже если сам API-ключ указан верно.
Часто задаваемые вопросы (FAQ)
Почему список моделей обновляется, но чат всё равно выдаёт ошибку?
Выбранная модель может быть недоступна для интерактивной генерации, либо её название на стороне провайдера отличается от отображаемого имени.
Можно ли ввести название модели вручную?
По возможности используйте автозагрузку списка моделей. Названия, вводимые вручную, должны в точности соответствовать техническому идентификатору модели на стороне провайдера.
Почему поведение персонажа изменилось после смены модели?
Разные модели могут по-разному реагировать на один и тот же промпт и пресет. Рекомендуется проверять настройки вашего пресета после переключения на другую модель.
Что дальше
- Запуск первого чата: протестируйте модель в реальном диалоге.
- Основы пресетов: настройте параметры генерации.
- Руководство по локальным моделям GGUF: попробуйте запуск локальных моделей.