태번 스튜디오의 OpenAI 호환 API 설정

OpenAI 호환 API 설정에는 일반적으로 베이스 URL, 필요한 경우 API 키 또는 토큰, 그리고 모델 ID의 세 가지 요소가 필요합니다. 태번 스튜디오(Tavern Studio)는 캐릭터 카드 및 프리셋과 이러한 서비스 제공업체 설정을 분리하여 관리하므로, 캐릭터를 새로 작성하지 않고도 모델 경로를 쉽게 전환할 수 있습니다.

많은 서비스 제공업체 및 로컬 서버가 OpenAI 스타일의 /chat/completions API를 제공합니다. 일부는 이를 지원하지 않을 수 있으므로, 항상 제공업체의 문서를 확인하시기 바랍니다.

추천 대상

• OpenAI 호환 클라우드 서비스를 프라이빗 AI 채팅 클라이언트에 연결하려는 사용자.
• 로컬 LLM 앱이나 로컬 모델 서버를 사용하는 개발자.
• 커스텀 게이트웨이 또는 리버스 프록시를 사용하는 사용자.
• 실리타번 대체품을 찾거나 설정을 마이그레이션하려는 실리타번(SillyTavern) 사용자.

핵심 내용

OpenAI 호환 엔드포인트는 일반적으로 베어러 토큰(Bearer Token) 인증을 사용하고, model과 messages가 포함된 채팅 완료(chat completions) 본문을 사용합니다. 로컬 서버의 경우 API 키를 생략할 수 있습니다. 커스텀 게이트웨이에서는 자체 헤더, 계정 ID 또는 고유 경로가 추가로 필요할 수 있습니다.

서비스 제공업체 상세 정보를 캐릭터 카드 내부에 저장하지 마세요. 캐릭터, 프리셋, 모델 경로는 각각 별개로 관리되어야 합니다.

태번 스튜디오의 처리 방식

태번 스튜디오는 OpenAI 호환 API 설정을 지원하며, 실리타번 마이그레이션 중에 일반적인 서비스들을 자동으로 매핑할 수 있습니다. 커스텀 엔드포인트, 로컬 서비스, 리버스 프록시, Azure OpenAI, Cloudflare Workers AI 등을 사용하거나 베이스 URL 또는 기본 모델이 누락된 경우에는 수동 설정이 필요할 수 있습니다.

프롬프트 어셈블러는 OpenAI 스타일의 경로에 맞게 구조화된 메시지 배열을 구성할 수 있습니다.

설정 단계

1. API 또는 모델 연결 설정을 엽니다.
2. OpenAI 호환 경로를 선택합니다.
3. 베이스 URL을 입력합니다.
4. 엔드포인트에서 요구하는 경우 API 키를 입력합니다.
5. 모델 ID를 입력하거나 선택합니다.
6. 연결을 저장합니다.
7. 간단한 테스트 메시지를 보내 확인합니다.
8. 해당 경로를 사용하고자 하는 채팅 또는 프리셋 워크플로우에 연결합니다.

자주 묻는 질문 (FAQ)

OpenAI 호환 API란 무엇인가요?

일반적으로 /chat/completions를 포함하며, OpenAI 스타일의 요청 및 응답 패턴을 따르는 엔드포인트를 의미합니다.

로컬 서버를 사용할 수 있나요?

네, 로컬 서버가 호환 가능한 API를 제공하고 베이스 URL 및 모델 설정이 정확하다면 가능합니다.

태번 스튜디오에서 제공업체의 API 키 입력을 우회할 수 있나요?

아니요. 제공업체로부터 발급받은 올바른 인증 정보나 자체 로컬 서비스 설정을 그대로 사용해야 합니다.

엔드포인트 연결이 실패하는 이유는 무엇인가요?

잘못된 베이스 URL, /v1 경로 누락, 잘못된 모델 ID, 유효하지 않은 API 키, 프록시 설정 문제, 또는 제공업체별 세부 사양 차이 등이 주요 원인일 수 있습니다.

하나의 캐릭터가 여러 엔드포인트를 사용할 수 있나요?

네, 채팅/모델 설정과 프리셋을 조정하여 동일한 캐릭터로 서로 다른 경로를 테스트할 수 있습니다.

다음 단계

• 클라우드 API 채팅 클라이언트에서 클라우드 라우팅을 비교해 보세요.
• Windows에서 로컬 LLM 실행하기를 통해 로컬 대체 솔루션을 사용해 보세요.
• 프리셋 및 프롬프트 관리자에서 텍스트 생성 동작을 관리해 보세요.