첫 API 구성하기
대답을 생성하기 위해 Tavern Studio는 모델 백엔드가 필요합니다. 이 가이드에서는 클라우드 API 또는 OpenAI 호환 엔드포인트를 연동하는 방법을 설명합니다.
대상 독자
- OpenAI 호환 서비스 등의 클라우드 모델을 사용하려는 사용자
- 연결 오류가 발생하거나 모델 목록이 보이지 않는 사용자
- 대화 세션별로 다른 모델 경로를 할당하고 싶은 사용자
배울 내용
- 기본 URL(Base URL), API 키, 모델 이름의 의미
- OpenAI 호환 API의 작동 방식
- 자주 발생하는 연결 장애 해결 방법
- 대화 레벨에서의 모델 덮어쓰기(Override) 설정 방법
API를 구성해야 하는 이유
Tavern Studio는 캐릭터 정보와 프롬프트 콘텍스트를 관리하고 가공하지만, 실제 텍스트 대답을 생성하는 주체는 모델 백엔드입니다. API 연결은 Tavern Studio에 프롬프트를 전송할 엔드포인트 위치와 응답을 처리할 모델을 알려주는 역할을 합니다.
일반적인 제공업체 유형
- 공식 클라우드 제공업체(Official cloud providers): 사용자가 직접 계정을 생성하고 API 키를 발급받는 서비스입니다.
- 타사 게이트웨이(Third-party gateways): 호환되는 API 엔드포인트를 제공하는 배포 대행 서비스입니다.
- OpenAI 호환 API: 다양한 클라우드 및 로컬 모델 서비스에서 공통으로 채택하고 있는 표준 통신 프로토콜입니다.
API 키, URL, 모델
설정(Settings)을 열고 API 섹션을 찾은 후 다음 설정을 완료합니다:
- 제공업체(Provider): 제공업체 유형을 선택합니다.
- 기본 URL(Base URL): 엔드포인트 URL을 입력합니다.
- API 키(API Key): 발급받은 비공개 키를 붙여넣습니다.
- 모델 새로고침(Refresh Models): 사용 가능한 모델 목록을 불러옵니다.
- 모델(Model): 대화에 사용할 모델을 선택합니다.
제공업체는 호환되지만 모델 목록을 불러오지 못하는 경우, 앱 버전에 따라 모델명을 수동으로 입력하여 설정할 수도 있습니다.
대화 레벨 모델 덮어쓰기 (Overrides)
글로벌 API 설정은 앱의 기본 백엔드를 정의합니다. 각각의 개별 채팅 세션은 채팅 설정(Chat Settings)을 통해 전용 모델이나 경로를 덮어써서 사용할 수 있습니다. 이는 캐릭터마다 요구되는 모델 성능이나 비용이 다를 때 매우 유용합니다.
연결 오류 해결 방법
기본 URL(Base URL) 확인
제공업체에 따라 주소 끝에 /v1을 필수로 붙여야 하는 곳이 있고, 이미 포함되어 제공되는 곳이 있습니다. 필요한 경로를 누락하거나 중복하여 입력하지 않았는지 꼼꼼하게 검토하십시오.
네트워크 및 프록시 설정 확인
네트워크 환경에서 모델 제공업체의 서버로 접근할 수 없는 경우, 방화벽이나 프록시 서버 설정을 확인하고 앱에 프록시 구성을 반영하십시오.
계정 잔액 및 할당량(Quota) 확인
API 키가 정확하더라도, 체험용 크레딧의 만료 또는 계정 잔액 부족으로 인해 인증 오류 및 사용량 초과 오류가 발생할 수 있습니다.
자주 묻는 질문 (FAQ)
모델 목록은 새로고침이 되는데 채팅을 보내면 왜 실패하나요?
선택한 모델이 대화 텍스트 생성용 모델이 아니거나, 제공업체가 예상하는 모델 식별자 이름과 실제 앱에 전달되는 모델 이름이 다를 수 있습니다.
모델 이름을 수동으로 입력해도 되나요?
가능하다면 모델 목록에서 선택하는 것을 권장합니다. 수동으로 입력할 때는 제공업체 공식 문서에 명시된 식별자 문자열과 완벽히 일치해야 합니다.
모델을 바꾼 후 대화 스타일이 크게 변경되었습니다.
모델에 따라 동일한 프롬프트와 프리셋 설정에 반응하는 방식이 크게 달라집니다. 모델을 교체한 후에는 프리셋을 함께 조정하는 것이 좋습니다.
다음 단계
- 첫 채팅 시작하기: 실제 대화에서 연동된 모델을 테스트해 봅니다.
- 프리셋 기초: 텍스트 생성 동작을 정교하게 튜닝합니다.
- 로컬 GGUF 모델 가이드: 내 컴퓨터에서 로컬로 모델을 구동해 봅니다.