다국어 (한국어) 실전 노트
한국어 서비스에서 실제로 부딪히는 문제와 해결책입니다. 범용적으로 통합니다.
한국어 특화 모델 선택
- 한국어 응답 품질은 모델마다 큰 차이가 납니다. 한국어 특화/강한 모델을 작성(생성) 단계에 쓰세요.
- 임베딩·검색도 다국어 임베딩 모델(예:
bge-m3)을 써야 한글 문서 검색이 정확합니다.
⚠️ 추론 모델의 "사고 언어" 누출
증류형 추론(reasoning) 모델은 시스템 프롬프트로 "한국어로 사고하라"고 지시해도
내부 사고 과정(<think>)을 영어/중국어로 하는 경향이 강합니다. 이건 모델 특성이라 강제가 어렵습니다.
해결 패턴 — 역할 분리: 1. 추론 모델: 단계적 사고(언어는 통제 안 되어도 됨). 원문은 사용자에게 노출하지 않음. 2. 작성(생성) 모델: 추론 결과 + 근거를 받아 한국어 최종 답변을 생성.
즉 "사고"와 "작성"을 분리하면, 최종 사용자에게는 깔끔한 한국어만 보입니다.
질문 → [추론 모델] 단계적 사고(내부) → [작성 모델] 한국어 답변(노출)
프롬프트 언어
- 시스템 프롬프트를 한국어로 쓰면 한국어 응답 경향이 강해집니다.
- "반드시 한국어로 답하라"를 명시. 그래도 코드·전문용어는 원어가 섞일 수 있음.
토큰·비용
- 한글은 모델에 따라 토큰 소모가 영어보다 많을 수 있습니다.
max_tokens·비용 산정 시 감안.
인코딩
- API·저장·로그 전 구간 UTF-8. JSON 직렬화 시 비ASCII 이스케이프를 끄면(
ensure_ascii=false) 가독성↑.