15분
"CNC 스핀들 과열 알람인데, AI가 요리 레시피를 알려줘요"
파인튜닝 개요 & LoRA/QLoRA
"CNC 스핀들 과열 알람인데, AI가 요리 레시피를 알려줘요"
QLoRA 파인튜닝 > 파인튜닝 개요 & LoRA/QLoRA
학습 목표
범용 LLM이 제조 도메인에서 보이는 한계를 체감한다 파인튜닝의 필요성을 이해한다
"AI가 엉뚱한 답을 해요"
현장 엔지니어 김대리: "팀장님, 회사에서 도입한 AI 챗봇이 쓸모가 없어요."
팀장: "왜? GPT-4 기반이라며?"
김대리: "CNC 스핀들 과열 알람 대응법을 물어봤는데..."
에디터 로딩 중...
무엇이 문제인가?
| 항목 | 현장이 원하는 답변 | 범용 AI 답변 |
|---|---|---|
| 구체성 | AL-3012 코드별 원인 분석 | "전문가에게 문의" |
| 절차 | 5단계 표준 조치 절차 | "기계를 멈추세요" |
| 수치 | 78도 -> 베어링 마모 가능성 80% | 언급 없음 |
| 안전 | LOTO 절차 필수 경고 | 언급 없음 |
| 이력 | "지난달에도 3번 발생" 참조 | 불가능 |
김대리: "이건 백과사전이지, 정비 매뉴얼이 아니에요."
박선배의 통찰
"GPT-4는 세상 모든 걸 조금씩 아는 제너럴리스트야. 우리한테 필요한 건 CNC 장비만 깊게 아는 스페셜리스트지. 그걸 만드는 방법이 바로 파인튜닝이야."
오늘의 여정
| 시간 | 주제 | 핵심 질문 |
|---|---|---|
| 1교시 | 파인튜닝이 뭔가? | API 쓰면 되는데 왜 직접 학습? |
| 2교시 | LoRA 원리 | 70억 파라미터를 어떻게 소수만 바꾸나? |
| 3교시 | QLoRA 혁신 | 어떻게 16GB GPU로 7B 모델을 학습? |
| 4교시 | 환경 설정 | 내 PC에서 돌릴 수 있나? |
| 5교시 | 실습 | 첫 번째 QLoRA 학습 체험 |
핵심 포인트
- • 범용 LLM은 제조 도메인의 구체적 지식이 부족하다
- • 파인튜닝 = 범용 모델을 도메인 전문가로 만드는 과정
- • LoRA/QLoRA 덕분에 소규모 GPU로도 파인튜닝 가능