20분
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
제조 도메인 sLLM 구축
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
QLoRA 파인튜닝 > 제조 도메인 sLLM 구축
학습 목표
Day 1~4에서 배운 전 과정을 통합하여 실전 프로젝트를 수행한다 데이터 수집 -> 학습 -> 평가 -> 배포 전체 파이프라인을 완성한다 포트폴리오에 넣을 수 있는 수준의 결과물을 만든다
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
프로젝트 시나리오
상황: 당신은 스마트 팩토리 AI팀 엔지니어입니다. 경영진이 현장 엔지니어를 위한 AI 어시스턴트 구축을 요청했습니다.
요구사항:
- 설비 매뉴얼 기반 Q&A 기능
- 고장 진단 지원 기능
- 안전 규정 안내 기능
- 오프라인 환경에서 동작 (보안상 외부 API 불가)
제약사항:
- GPU 서버: RTX 4090 1장 (24GB)
- 개발 기간: 1주일 (오늘!)
- 모델 크기: 8B 이하 (메모리 제약)
프로젝트 아키텍처
에디터 로딩 중...
평가 기준
| 항목 | 배점 | 기준 |
|---|---|---|
| 데이터셋 | 20점 | 300건+, 5개 카테고리, 품질 검증 |
| 학습 | 20점 | Loss 수렴, 과적합 없음 |
| 평가 | 20점 | 5축 평가, A/B 비교 완료 |
| 배포 | 20점 | Ollama 또는 API 동작 확인 |
| 문서화 | 20점 | 기술 보고서 + 데모 시나리오 |
| 보너스 | +10점 | 추가 실험, 시각화, HF 업로드 |
시간 배분
| 시간 | 작업 | 산출물 |
|---|---|---|
| 09:00-10:00 | 데이터 수집 & 증강 | dataset.jsonl |
| 10:00-11:00 | 데이터 검증 & 분석 | 검증 리포트 |
| 11:00-13:00 | QLoRA 학습 실행 | 학습된 모델 |
| 13:00-14:30 | 모델 평가 | 평가 리포트 |
| 14:30-16:00 | 배포 (GGUF/Ollama) | 동작하는 서비스 |
| 16:00-17:00 | 문서화 & 데모 | 기술 보고서 |
핵심 포인트
- • 전체 파이프라인: 데이터 -> 학습 -> 평가 -> 배포 -> 문서화
- • 시간 관리가 핵심: 각 Phase에 할당된 시간 준수
- • 포트폴리오 수준의 결과물 목표