15분
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
제조 도메인 sLLM 구축
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
QLoRA 파인튜닝 > 제조 도메인 sLLM 구축
학습 목표
Day 1~4에서 배운 전 과정을 통합하여 실전 프로젝트를 수행한다 데이터 수집 -> 학습 -> 평가 -> 배포 전체 파이프라인을 완성한다 포트폴리오에 넣을 수 있는 수준의 결과물을 만든다
주간 프로젝트: 제조 도메인 sLLM End-to-End 구축
프로젝트 시나리오
상황: 당신은 스마트 팩토리 AI팀 엔지니어입니다. 경영진이 현장 엔지니어를 위한 AI 어시스턴트 구축을 요청했습니다.
요구사항:
- 설비 매뉴얼 기반 Q&A 기능
- 고장 진단 지원 기능
- 안전 규정 안내 기능
- 오프라인 환경에서 동작 (보안상 외부 API 불가)
제약사항:
- GPU 서버: RTX 4090 1장 (24GB)
- 개발 기간: 1주일 (오늘!)
- 모델 크기: 8B 이하 (메모리 제약)
프로젝트 아키텍처
[전체 파이프라인]
Phase 1: 데이터 (Day 2 복습)
매뉴얼 -> Q&A 변환 -> 증강 -> 검증 -> 데이터셋
(목표: 300건 이상)
Phase 2: 학습 (Day 3 복습)
모델 선택 -> QLoRA 설정 -> 학습 실행 -> 체크포인트
(목표: Loss < 1.0)
Phase 3: 평가 (Day 4 복습)
자동 평가 -> A/B 비교 -> 리포트
(목표: 종합 60점 이상)
Phase 4: 배포 (Day 4 복습)
LoRA 병합 -> GGUF 변환 -> Ollama 배포 -> API 서비스
(목표: 로컬 REST API 동작)
Phase 5: 문서화 (오늘)
기술 보고서 -> 데모 시나리오 -> 포트폴리오평가 기준
| 항목 | 배점 | 기준 |
|---|---|---|
| 데이터셋 | 20점 | 300건+, 5개 카테고리, 품질 검증 |
| 학습 | 20점 | Loss 수렴, 과적합 없음 |
| 평가 | 20점 | 5축 평가, A/B 비교 완료 |
| 배포 | 20점 | Ollama 또는 API 동작 확인 |
| 문서화 | 20점 | 기술 보고서 + 데모 시나리오 |
| 보너스 | +10점 | 추가 실험, 시각화, HF 업로드 |
시간 배분
| 시간 | 작업 | 산출물 |
|---|---|---|
| 09:00-10:00 | 데이터 수집 & 증강 | dataset.jsonl |
| 10:00-11:00 | 데이터 검증 & 분석 | 검증 리포트 |
| 11:00-13:00 | QLoRA 학습 실행 | 학습된 모델 |
| 13:00-14:30 | 모델 평가 | 평가 리포트 |
| 14:30-16:00 | 배포 (GGUF/Ollama) | 동작하는 서비스 |
| 16:00-17:00 | 문서화 & 데모 | 기술 보고서 |
AI로 학습하기 — 꿀팁
🤖End-to-End sLLM 구축 로드맵 생성AI 학습 팁
데이터 수집부터 배포까지 전체 파이프라인을 단계별 체크리스트로 만들어 두면 프로젝트 완성까지 누락 없이 진행할 수 있습니다.
제조 설비 고장 진단용 sLLM을 처음부터 끝까지 구축하는 End-to-End 프로젝트 로드맵을 마크다운 체크리스트로 만들어줘. Phase 1(데이터 수집·전처리) / Phase 2(QLoRA 학습 환경 구성) / Phase 3(학습 실행·모니터링) / Phase 4(평가·검증) / Phase 5(배포·운영) 각 단계별로 세부 태스크, 예상 소요 시간, 완료 확인 기준을 포함해줘. 혼자 진행하는 4박 5일 집중 프로젝트 일정으로 배분해줘.
이 팁이 도움이 됐나요?
핵심 포인트
- • 전체 파이프라인: 데이터 -> 학습 -> 평가 -> 배포 -> 문서화
- • 시간 관리가 핵심: 각 Phase에 할당된 시간 준수
- • 포트폴리오 수준의 결과물 목표