10분
"Loss가 떨어진다...진짜로 배우고 있어!"
QLoRA 학습 실행
"Loss가 떨어진다...진짜로 배우고 있어!"
QLoRA 파인튜닝 > QLoRA 학습 실행
학습 목표
QLoRA 학습 과정의 전체 흐름을 파악한다 학습 로그를 읽는 방법을 이해한다
"드디어 학습이 시작됐다"
김대리: "데이터 준비 끝났어요! 이제 어떻게 학습시켜요?"
박선배: "자, 이제 진짜 마법이 시작되는 거야. 코드 실행하고 Loss 그래프를 봐."
[학습 로그]
Step 100/2000 | Loss: 2.847 | LR: 1.92e-04 | GPU: 5.2GB
Step 200/2000 | Loss: 2.234 | LR: 1.84e-04 | GPU: 5.2GB
Step 500/2000 | Loss: 1.456 | LR: 1.60e-04 | GPU: 5.3GB
Step 1000/2000 | Loss: 0.891 | LR: 1.20e-04 | GPU: 5.3GB
Step 1500/2000 | Loss: 0.654 | LR: 0.72e-04 | GPU: 5.3GB
Step 2000/2000 | Loss: 0.523 | LR: 0.00e-00 | GPU: 5.3GB
김대리: "Loss가 2.8에서 0.5로 떨어졌어요!"
박선배: "좋아. 모델이 제조 데이터를 학습하고 있다는 뜻이야. 자, 이제 학습된 모델에게 물어보자."
[파인튜닝 전]
Q: CNC 스핀들 과열 알람 대응법은?
A: 스핀들은 회전축입니다. 과열 시 전문가에게 문의하세요.
[파인튜닝 후]
Q: CNC 스핀들 과열 알람 대응법은?
A: ## AL-3012: 스핀들 과열 알람 대응
### 원인 분석
스핀들 온도가 경고 임계값(75도)을 초과했습니다.
주요 원인: 냉각수 부족, 베어링 마모, 과부하 절삭
### 조치 절차
1. 스핀들 정상 정지 (M05)
2. 30분 냉각 대기
3. 냉각수 레벨 확인
4. 베어링 진동 측정 (4.5mm/s 이하 정상)
5. 절삭 조건 검토 후 시운전
### 안전 주의사항
- 고온 부위 접촉 금지 (화상 위험)
- LOTO 절차 준수 후 내부 점검
김대리: "와, 완전히 다른 모델이 됐어요!"
오늘의 여정
| 시간 | 주제 | 핵심 |
|---|---|---|
| 1교시 | 하이퍼파라미터 | 어떤 설정이 결과를 좌우하나? |
| 2교시 | 전체 코드 | 처음부터 끝까지 학습 코드 |
| 3교시 | 모니터링 | Loss 그래프를 어떻게 해석? |
| 4교시 | Unsloth | 2배 빠른 학습 코드 |
| 5교시 | 실습 | 직접 학습 실행! |
AI로 학습하기 — 꿀팁
🧪학습 Loss 의미와 제조 맥락 해석AI 학습 팁
QLoRA 학습 로그에서 Loss 값이 떨어지는 패턴이 제조 도메인 언어 이해와 어떻게 연결되는지 직관적으로 연결해 보세요.
QLoRA 학습 로그에서 Train Loss가 에폭마다 2.3 → 1.8 → 1.4 → 1.1로 내려가는 과정을 직관적으로 설명해줘. 모델이 각 단계에서 제조 용어(예: 스핀들, 서보모터, OEE)를 어떻게 점점 더 잘 예측하게 되는지, Cross-Entropy Loss 수식 없이 '확률'과 '예측 정확도' 언어로만 설명해줘. Loss 2.3일 때와 1.1일 때 모델이 '갑작스러운 진동 발생 원인'에 대해 어떻게 다르게 답할지 예시도 함께 보여줘.
이 팁이 도움이 됐나요?
핵심 포인트
- • Loss 감소 = 모델이 데이터 패턴을 학습 중
- • QLoRA: 5-6GB VRAM으로 7B 모델 학습 가능
- • 학습 시간: T4 GPU 기준 500건 약 1-2시간