15분
Day 4 Common Pitfalls: 평가 & 배포 시 흔한 실수
평가 & 배포
Day 4 Common Pitfalls: 평가 & 배포 시 흔한 실수
QLoRA 파인튜닝 > 평가 & 배포
학습 목표
모델 평가/배포 시 흔한 실수를 방지한다
Day 4 Common Pitfalls
Pitfall 1: "학습 데이터로 평가하면 점수가 높다"
에디터 로딩 중...
Pitfall 2: "병합 시 메모리 부족"
에디터 로딩 중...
Pitfall 3: "GGUF 변환 후 성능 차이"
에디터 로딩 중...
Pitfall 4: "Ollama에서 한글 깨짐"
에디터 로딩 중...
Pitfall 5: "배포 후 답변이 학습 때와 다름"
에디터 로딩 중...
핵심 포인트
- • 평가 데이터는 반드시 학습에 미사용한 별도 세트
- • 병합: RAM 16GB+ 필요, device_map="auto" 활용
- • GGUF: Q4_K_M 이상 권장 (제조 도메인 안전성)
- • 배포: 학습과 동일한 프롬프트 + 파라미터 필수