LLM(대규모 언어 모델)의 답변이 갑자기 횡설수설하거나 의도와 다른 방향으로 흐를 때, 습관적으로 온도(Temperature)나 top_p 값을 조절하시나요? 물론 확률적 샘플링 파라미터도 중요하지만, 사실 그보다 앞서 확인해야 할 ‘근본적인 설정’들이 있습니다.
모델이 엉뚱한 답을 내놓는 것은 설정을 조금 바꾼다고 해결되지 않는 경우가 많습니다. 모델의 출력 품질을 결정짓는 핵심 설정 4가지를 우선 점검해 보세요.
- 모델 설정을 바꾸기 전, 프롬프트의 구조와 컨텍스트 제공 방식을 먼저 확인하세요.
- 시스템 프롬프트와 입력 데이터의 명확성이 품질의 80%를 결정합니다.
- AI 모델 성능 평가 시에도 이러한 기초 설정을 우선 검토해야 합니다.
시스템 프롬프트의 명확성
많은 사용자가 사용자 프롬프트(User Prompt)는 꼼꼼히 작성하면서, 모델의 페르소나와 제약사항을 정의하는 시스템 프롬프트는 간과하곤 합니다. 시스템 프롬프트가 모호하면 모델은 매번 다른 기준을 적용하게 됩니다.
단순히 “너는 친절한 어시스턴트야”라고 하기보다, 모델이 지켜야 할 행동 강령을 명시적이고 단계적으로 작성했는지 확인하세요. 예를 들어, 답변의 형식(글머리 기호 사용 여부), 금기어, 문체 등을 시스템 설정 단계에서 강하게 제약해야 모델이 흔들리지 않습니다.
컨텍스트 윈도우와 입력 데이터
모델이 전체 문맥을 제대로 파악하지 못하고 있다면, 컨텍스트 창(Context Window)에 입력된 정보가 너무 방대하거나 중구난방일 가능성이 큽니다.
모델은 입력된 데이터의 양이 많아질수록 초기 혹은 마지막에 입력된 정보에만 의존하는 ‘중간 소실(Lost in the Middle)’ 현상을 겪기 쉽습니다. 특히 RAG(검색 증강 생성)를 사용하는 경우, 참조하는 데이터의 품질이 곧 답변의 품질입니다. 불필요한 데이터를 제거하고 핵심 정보 위주로 입력 창을 구성했는지 점검해 보세요.
출력 포맷의 강제(Structured Output)
모델에게 “자유롭게 설명해 줘”라고 하면 답변 품질은 매번 달라집니다. JSON이나 특정 마크다운 형식 등 출력을 구조화하여 강제하는 설정이 필요합니다.
최근 모델들이 지원하는 ‘Structured Output’ 기능을 사용하면, 출력 형태를 사전에 정의하여 모델의 ‘상상력’을 차단할 수 있습니다. 형식이 정해지면 모델은 문맥을 만들어내는 데 더 집중하게 되어, 결과적으로 훨씬 일관성 있는 답변을 내놓게 됩니다.
퓨샷(Few-shot) 예시의 품질
질문 하나만 던지고 답을 기대하지 마세요. 모델에게 원하는 답변의 예시(Few-shot)를 1~3개만 제공해도 출력 품질은 드라마틱하게 변합니다.
주의할 점은, 예시가 너무 정형화되어 있으면 모델이 예시만 기계적으로 복사한다는 것입니다. 모델이 패턴을 학습할 수 있을 정도로 다양하면서도, 기대하는 결과값과 일치하는 양질의 예시를 프롬프트에 포함했는지 확인하세요. 이 과정은 파인튜닝 이전에 거쳐야 할 필수 단계입니다.
자주 묻는 질문
시스템 프롬프트는 어디까지 구체적으로 적어야 하나요?
답변의 목적, 대상 독자, 피해야 할 말투, 그리고 구조(예: ‘서론-본론-결론’ 또는 ‘질문-답변-이유’)를 모두 명시하는 것이 좋습니다. 제약사항이 구체적일수록 모델의 답변 범위가 좁아져 품질이 일정해집니다.
퓨샷 예시가 답변 품질을 떨어뜨리는 경우도 있나요?
네, 예시 데이터 자체가 모순되거나 잘못된 정보를 포함하고 있다면 모델은 이를 학습하여 거짓 정보를 출력(환각 현상)할 확률이 높아집니다. 예시 데이터는 가장 검증된 내용으로만 구성해야 합니다.
데이터가 너무 많으면 어떻게 처리하나요?
입력 데이터가 너무 많다면 전체를 한꺼번에 넣지 말고, 요약 단계를 거치거나 필요한 정보만 추출하는 ‘전처리 과정’을 추가하세요. 모델의 가용 토큰을 넘지 않더라도 정보량이 많으면 오히려 집중력이 떨어질 수 있습니다.
