15분
Week 6 회고: 배운 것과 다음 단계
제조 도메인 sLLM 구축
Week 6 회고: 배운 것과 다음 단계
QLoRA 파인튜닝 > 제조 도메인 sLLM 구축
학습 목표
이번 주에 학습한 내용을 정리한다 실무에서 QLoRA를 활용할 수 있는 시나리오를 파악한다 다음 주(온톨로지 & Knowledge Graph) 연결점을 이해한다
Week 6 회고
이번 주에 배운 것
Day 1: LoRA/QLoRA 이론
- 파인튜닝 vs RAG vs 프롬프트 엔지니어링
- LoRA: 저랭크 분해로 0.2% 파라미터만 학습
- QLoRA: NF4 + 이중 양자화로 6GB에서 7B 학습
Day 2: 학습 데이터 준비
- Alpaca/ShareGPT/ChatML 형식
- 매뉴얼 -> Q&A 변환 5가지 전략
- GPT-4 증강 파이프라인
- 데이터 품질 검증
Day 3: QLoRA 학습 실행
- 8가지 핵심 하이퍼파라미터
- SFTTrainer 전체 학습 코드
- Loss 그래프 해석 (정상/과적합/폭발)
- Unsloth 2배 가속
Day 4: 평가 & 배포
- 5축 평가 (정확성/구체성/안전성/형식/유용성)
- BLEU/ROUGE + 제조 특화 메트릭
- LoRA 병합 -> GGUF -> Ollama
Day 5: 종합 프로젝트
- End-to-End 파이프라인 구축
- 기술 보고서 & 포트폴리오실무 활용 시나리오
| 시나리오 | 접근 방법 |
|---|---|
| 설비 매뉴얼 Q&A | QLoRA 파인튜닝 (이번 주!) |
| 실시간 매뉴얼 검색 | RAG (Week 2-3) |
| 고장 진단 + 매뉴얼 | QLoRA + RAG 조합 |
| 멀티 에이전트 통합 | Agent (Week 4-5) + sLLM |
| 설비-공정 관계 분석 | Knowledge Graph (Week 7!) |
다음 주 프리뷰: 온톨로지 & Knowledge Graph
Week 7에서는:
- Neo4j로 설비-공정-부품 관계를 그래프로 모델링
- Cypher 쿼리로 복잡한 관계 질의
- GraphRAG: 그래프 + RAG 결합
- 이번 주의 sLLM과 연결하면 "그래프 지식 + 전문 모델" 시너지!
Week 7 예고:
"이 부품이 고장나면 어떤 공정이 영향받나?"
-> Knowledge Graph로 관계 추적
-> sLLM으로 전문적 답변 생성
-> 현장 엔지니어에게 즉시 전달AI로 학습하기 — 꿀팁
🧪QLoRA 실무 활용 시나리오 구체화AI 학습 팁
이번 주 배운 QLoRA 파이프라인을 실제 제조 현장 문제에 적용한다면 어떤 설비·데이터·목표를 설정할지 구체적인 시나리오를 탐색해 보세요.
이번 주에 배운 QLoRA + Unsloth + 데이터 파이프라인 기술을 실제 한국 제조업에 적용하는 세 가지 구체적인 시나리오를 제안해줘. 각 시나리오: 적용 업종(예: 자동차 부품, 반도체, 식품), 해결하려는 문제, 필요한 학습 데이터 종류와 예상 규모, 기대 ROI(연간 절감 비용 추정), 구축에 필요한 GPU 자원 최솟값. 국내 중소 제조사가 현실적으로 도입 가능한 수준으로 구체적으로 작성해줘.
이 팁이 도움이 됐나요?
핵심 포인트
- • 이번 주 핵심: QLoRA로 제조 전문 sLLM 구축 (데이터->학습->평가->배포)
- • 실무: QLoRA + RAG 조합이 최강 (전문 지식 + 최신 정보)
- • 다음 주: Knowledge Graph로 설비-공정-부품 관계 모델링