문제: 학습에 사용한 데이터로 평가 -> 당연히 높은 점수
      (시험 문제를 미리 알고 시험 보는 것과 같음!)

해결: 평가 데이터는 반드시 학습 미사용 별도 세트 준비
  학습: 450건 / 평가: 50건 (겹침 없음!)

문제: merge_and_unload() 시 OOM
  - 기본 모델(FP16) + LoRA 가중치를 동시에 메모리 필요

해결:
  1. device_map="cpu"로 CPU RAM에서 병합 (느리지만 확실하다)
  2. 필요한 RAM은 대략 파라미터 수 x 2바이트. 이 주의 3.8B는 약 7.6GB,
     7B는 약 14GB이므로 그보다 여유 있게 잡는다
  3. Colab 무료 티어의 시스템 RAM은 약 13GB다. 3.8B 병합은 되지만 7B는 빠듯하다

양자화 레벨은 비트를 줄일수록 파일이 작아지고 품질이 내려간다.
  Q8_0   > Q5_K_M > Q4_K_M > Q2_K   (품질 순, 크기도 이 순서)

몇 퍼센트 떨어지는지는 모델·과제·평가 지표에 따라 크게 달라진다.
공개 측정에서도 7B급 Q4_K_M의 퍼플렉서티 상승은 대체로 1% 안팎으로 보고되어,
"Q4는 5% 손실" 같은 고정 수치는 근거가 약하다.

그래서 재는 방법을 정해 둔다:
  1. Day 4 평가 코드를 fp16 병합 모델에 한 번 돌린다 (기준선)
  2. 같은 코드를 Q4_K_M GGUF에 돌린다
  3. 두 점수 차이를 보고서에 적는다. 특히 안전 키워드 포함률이 떨어졌는지 본다

제조 도메인 권장: Q4_K_M 이상. 안전 절차가 빠지는지가 판단 기준이지 점수 몇 %가 아니다.
  (Q2_K는 크기를 위해 품질을 크게 내놓는 선택이라 현장 배포에는 권하지 않는다)

원인: 터미널 인코딩 문제

해결:
  export LANG=ko_KR.UTF-8
  export LC_ALL=ko_KR.UTF-8

  또는 REST API로 사용 (JSON이므로 인코딩 문제 없음)

원인 TOP 3:
1. 프롬프트 템플릿 불일치 (가장 흔함!)
2. temperature 설정 차이 (학습: 0 / 배포: 0.7)
3. max_tokens 부족 (답변이 잘림)

해결:
  학습과 동일한 프롬프트 템플릿 + 파라미터 사용
  Modelfile에 정확히 명시