▶️25분
[영상] LLM 파인튜닝과 RAG 적용 방법
제조 도메인 sLLM 구축
[영상] LLM 파인튜닝과 RAG 적용 방법
QLoRA 파인튜닝 > 제조 도메인 sLLM 구축
학습 목표
제조 도메인 sLLM 구축에서 QLoRA 파인튜닝과 RAG를 언제 각각 사용하고 언제 결합할지 판단 기준을 설명할 수 있다 파인튜닝 데이터가 부족한 상황에서 RAG로 보완하는 하이브리드 아키텍처를 설계할 수 있다 제조 sLLM의 안전성 요건(환각 최소화, 도메인 외 거절)을 위한 시스템 프롬프트 전략을 수립할 수 있다 주간 프로젝트 '제조 도메인 sLLM 구축'의 전체 파이프라인을 설계하고 단계를 나눌 수 있다
플레이어 로딩 중...
핵심 포인트
- • 파인튜닝은 '언어 능력 도메인화'(용어 이해·응답 스타일 고정), RAG는 '최신 정보 주입'(설비 이력·재고 현황)으로 역할이 다르다
- • 제조 sLLM 최적 전략: QLoRA 파인튜닝(알람 코드·정비 용어 습득) + RAG(실시간 센서 데이터·작업 지시 조회) 결합
- • 시스템 프롬프트에 '제조 도메인 전문가 역할 + 모르면 모른다고 답하기 + 확신 없는 정보는 전문가 확인 권고' 원칙을 명시해야 한다
- • 파인튜닝 후 반드시 Red Teaming(의도적 유도 질문)으로 환각·역할 이탈·부적절 지시 생성을 테스트해야 한다