프리셋 기초
프리셋은 모델의 작문 스타일과 특성을 결정짓는 통제 장치입니다. 텍스트 생성 파라미터와 프롬프트 구조 설정을 하나로 묶어, 다른 채팅방에서도 동일한 대화 스타일을 손쉽게 재사용할 수 있도록 지원합니다.
대상 독자
- AI의 답변이 너무 뻔하게 느껴지거나, 너무 짧거나, 혹은 엉뚱하게 깨져서 출력되는 사용자
- Temperature, Top P, Min P 등의 파라미터 개념을 제대로 이해하고 싶은 사용자
- 캐릭터나 AI 모델별로 각기 다른 대화 설정을 맞춤형으로 매칭하고 싶은 사용자
배울 내용
- 프리셋의 정의와 역할
- 주요 샘플링 파라미터가 역할극 대화에 미치는 영향
- 글로벌 프리셋을 관리하는 방법
- 개별 대화 세션별로 프리셋을 독립적으로 덮어쓰는 방법
핵심 샘플링 파라미터
1. Temperature (온도)
텍스트 생성의 무작위성(창의성)을 제어합니다. 값을 높이면 AI의 대합이 더 창의적이고 예측 불가능해지지만, 지나치게 높이면 문맥이 어긋나거나 무의미한 문장이 출력될 수 있습니다.
2. Min P
가장 확률이 높은 토큰을 기준으로 일정 확률 미만의 토큰들을 필터링해 제외합니다. 일관성을 유지하면서도 AI의 독창성과 어휘 표현력을 넓히는 데 매우 효과적입니다.
3. Top P 및 Top K
답변 후보군이 될 토큰들의 풀(Pool)을 상위 확률 기준으로 제한합니다. Min P를 적극적으로 사용하는 경우, 모델의 특성에 맞춰 특별히 제한적인 필터링이 필요한 경우가 아니라면 Top P 설정을 굳이 빡빡하게 잠글 필요는 없습니다.
4. Max Response Tokens (최대 답변 토큰)
한 번의 생성 요청 시 출력될 수 있는 최대 텍스트 길이를 제한합니다. 서사적인 묘사나 아주 상세한 연출을 원한다면 이 값을 늘려주십시오.
프리셋 관리 및 전환
1. 글로벌 프리셋 관리
글로벌 프리셋(Presets) 화면으로 이동하여 프리셋 구성을 새로 작성, 복제, 가져오기 및 세부적으로 편집할 수 있습니다.
2. 대화 레벨 프리셋 덮어쓰기
특정 캐릭터나 특정 대화 세션에 글로벌 기본 설정과 다른 파라미터를 사용하고 싶다면, 해당 대화방의 채팅 설정(Chat Settings)을 열어 전용 프리셋을 독립적으로 지정하십시오.
자주 묻는 질문 (FAQ)
Temperature(온도)를 높였더니 답변 퀄리티가 오히려 엉망이 되었습니다.
사용하고 계신 AI 모델의 체급 대비 온도가 지나치게 높게 설정되었을 가능성이 큽니다. 값을 약간 낮추고, 엉뚱한 텍스트 튀는 현상을 막기 위해 Min P 설정을 조합해 보십시오.
프리셋 설정을 수정했는데 현재 대화에 반영이 되지 않는 것 같습니다.
해당 채팅 세션에 전용 프리셋이 강제로 덮어씌워져 있을 수 있습니다. 대화 창의 채팅 설정(Chat Settings)에서 어떤 프리셋이 연결되어 있는지 확인해 주십시오.
모델이 똑같은 말을 자꾸 반복합니다.
반복 패널티 관련 파라미터를 조절하거나, 최대 답변 길이를 조정하거나, 시스템 프롬프트 구조를 정돈해 보세요. 특정 모델들은 본질적으로 다른 모델들에 비해 더 쉽게 반복 루프에 빠지는 경향이 있습니다.
다음 단계
- 로컬 GGUF 모델 가이드: 조정한 프리셋을 로컬 PC 구동 모델에 대입해 봅니다.
- 실리태번 마이그레이션: 기존 프리셋 자산들을 손쉽게 이식합니다.
- 백업 및 복구: 정성 들여 튜닝한 나만의 프리셋 데이터를 안전하게 보존합니다.