10

"Loss가 떨어진다...진짜로 배우고 있어!"

QLoRA 학습 실행

학습 목표

QLoRA 학습 과정의 전체 흐름을 파악한다 학습 로그를 읽는 방법을 이해한다

"드디어 학습이 시작됐다"

김대리: "데이터 준비 끝났어요! 이제 어떻게 학습시켜요?"

박선배: "자, 이제 진짜 마법이 시작되는 거야. 코드 실행하고 Loss 그래프를 봐."

QLoRA 4비트 양자화

[학습 로그]
Step   100/2000 | Loss: 2.847 | LR: 1.92e-04 | GPU: 5.2GB
Step   200/2000 | Loss: 2.234 | LR: 1.84e-04 | GPU: 5.2GB
Step   500/2000 | Loss: 1.456 | LR: 1.60e-04 | GPU: 5.3GB
Step  1000/2000 | Loss: 0.891 | LR: 1.20e-04 | GPU: 5.3GB
Step  1500/2000 | Loss: 0.654 | LR: 0.72e-04 | GPU: 5.3GB
Step  2000/2000 | Loss: 0.523 | LR: 0.00e-00 | GPU: 5.3GB

김대리: "Loss가 2.8에서 0.5로 떨어졌어요!"

박선배: "좋아. 모델이 제조 데이터를 학습하고 있다는 뜻이야. 자, 이제 학습된 모델에게 물어보자."

[파인튜닝 전]
Q: CNC 스핀들 과열 알람 대응법은?
A: 스핀들은 회전축입니다. 과열 시 전문가에게 문의하세요.

[파인튜닝 후]
Q: CNC 스핀들 과열 알람 대응법은?
A: ## AL-3012: 스핀들 과열 알람 대응

### 원인 분석
스핀들 온도가 경고 임계값(75도)을 초과했습니다.
주요 원인: 냉각수 부족, 베어링 마모, 과부하 절삭

### 조치 절차
1. 스핀들 정상 정지 (M05)
2. 30분 냉각 대기
3. 냉각수 레벨 확인
4. 베어링 진동 측정 (4.5mm/s 이하 정상)
5. 절삭 조건 검토 후 시운전

### 안전 주의사항
- 고온 부위 접촉 금지 (화상 위험)
- LOTO 절차 준수 후 내부 점검

김대리: "와, 완전히 다른 모델이 됐어요!"

오늘의 여정

시간주제핵심
1교시하이퍼파라미터어떤 설정이 결과를 좌우하나?
2교시전체 코드처음부터 끝까지 학습 코드
3교시모니터링Loss 그래프를 어떻게 해석?
4교시Unsloth2배 빠른 학습 코드
5교시실습직접 학습 실행!
AI로 학습하기 — 꿀팁
🧪학습 Loss 의미와 제조 맥락 해석AI 학습 팁

QLoRA 학습 로그에서 Loss 값이 떨어지는 패턴이 제조 도메인 언어 이해와 어떻게 연결되는지 직관적으로 연결해 보세요.

QLoRA 학습 로그에서 Train Loss가 에폭마다 2.3 → 1.8 → 1.4 → 1.1로 내려가는 과정을 직관적으로 설명해줘. 모델이 각 단계에서 제조 용어(예: 스핀들, 서보모터, OEE)를 어떻게 점점 더 잘 예측하게 되는지, Cross-Entropy Loss 수식 없이 '확률'과 '예측 정확도' 언어로만 설명해줘. Loss 2.3일 때와 1.1일 때 모델이 '갑작스러운 진동 발생 원인'에 대해 어떻게 다르게 답할지 예시도 함께 보여줘.
이 팁이 도움이 됐나요?
핵심 포인트
  • Loss 감소 = 모델이 데이터 패턴을 학습 중
  • QLoRA: 5-6GB VRAM으로 7B 모델 학습 가능
  • 학습 시간: T4 GPU 기준 500건 약 1-2시간