Приватный AI чат-клиент для облачных API в Tavern Studio
Tavern Studio ориентирован на локальный запуск (local-first), но не ограничивается только им. Вы можете использовать облачные API, если вам требуются более мощные хостинг-модели, быстрая скорость удаленной генерации или уникальные возможности конкретного провайдера. Наша цель — дать вам выбор: использовать локальные модели для приватных офлайн-сессий либо подключать облачные API, когда это необходимо.
При этом одни и те же карточки персонажей, лорбуки (World Info), пресеты и история чатов будут работать в обоих случаях независимо от выбранного пути.
Кому это подходит
- Пользователям, выбирающим хостинг-модели ради скорости и качества ответов.
- Авторам, сравнивающим результаты генерации локальных и облачных моделей.
- Командам, использующим OpenAI, Claude, Gemini, OpenRouter или собственные совместимые эндпоинты.
- Пользователям, которым нужно более функциональное рабочее пространство для чата, чем стандартная консоль провайдера.
Суть концепции
Использование облачных API удобно, но меняет условия конфиденциальности и влечет финансовые затраты. Запросы отправляются непосредственно провайдеру, которого вы настроили. Важно следить за лимитами API-ключей и правилами провайдеров. Локальное хранение данных в Tavern Studio не означает, что облачные запросы также остаются локальными.
Старайтесь делать маршрутизацию моделей прозрачной. Не скрывайте параметры облачного подключения внутри описаний персонажей.
Как с этим работает Tavern Studio
Tavern Studio поддерживает гибкую конфигурацию облачных моделей, включая OpenAI, Claude, Gemini, OpenRouter и любые совместимые эндпоинты. Часть провайдеров использует формат запросов, совместимый с OpenAI, в то время как другие работают через свои собственные API.
Импортированные настройки SillyTavern для популярных сервисов могут быть перенесены автоматически, однако нестандартные маршруты провайдеров необходимо проверить вручную.
Пошаговое руководство
- Открыть настройки моделей/API.
- Добавить маршрут облачного провайдера.
- Ввести базовый URL, ключ API и ID модели там, где это необходимо.
- Сохранить изменения и протестировать подключение с помощью короткого промпта.
- Привязать пресет, подходящий для выбранного провайдера.
- Начать чат с персонажем.
- Проверить вопросы конфиденциальности и расходов перед началом длинных сессий.
FAQ
Tavern Studio разработана только для локальных LLM?
Нет. Приложение полностью поддерживает как локальные модели, так и облачные API.
Влияет ли использование облачных API на конфиденциальность?
Да. Ваши запросы отправляются провайдеру, которого вы настроили. Рекомендуется ознакомиться с политикой конфиденциальности выбранного провайдера.
Могу ли я использовать OpenRouter?
Да, через поддерживаемую конфигурацию облачного или кастомного API.
Могу ли я использовать Gemini или Claude?
Да. Tavern Studio поддерживает подключение облачных маршрутов помимо стандартных OpenAI-совместимых эндпоинтов.
Могут ли облачные и локальные модели использовать одну и ту же карточку?
Да. Одну и ту же карточку персонажа можно запускать с разными пресетами и маршрутами моделей.
Что дальше
- Настройте совместимые эндпоинты по руководству Настройка OpenAI-совместимого API.
- Запускайте модели локально с помощью Локального LLM приложения.
- Изучите вопросы безопасности данных в обзоре Приватный AI чат-клиент.