영상 핵심 정리 — LLM 파인튜닝과 RAG 적용 방법

이 영상은 Week 6의 마무리로, 파인튜닝과 RAG를 언제 사용하고 어떻게 결합하는지 전략적 관점에서 정리한다. 제조 도메인 sLLM 구축의 전체 파이프라인을 설계하는 사고 프레임을 제시한다.

---

1. 파인튜닝 vs RAG — 선택 기준

상황	권장 방법	이유
도메인 전문 용어 이해 필요	파인튜닝	기본 언어 능력 개선
실시간 데이터 필요	RAG	모델 재학습 없이 갱신
응답 스타일 통일	파인튜닝	페르소나 고정
문서 수 많고 자주 변경	RAG	벡터DB 업데이트만으로 적용
예산 충분 + 최고 성능	파인튜닝 + RAG 결합	상호 보완

2. 제조 sLLM 하이브리드 아키텍처

사용자 질문: "CNC-07이 E204 알람 → 베어링 교체 필요한가?"
       │
       ▼
  파인튜닝 sLLM (알람 코드 E204 = 베어링 과부하 이해)
       │ 추가 컨텍스트 필요 시 RAG 호출
       ▼
  벡터DB 검색 (설비 정비 이력 문서)
  → CNC-07 최근 베어링 교체일: 2024-03-15
  → 권장 교체 주기: 6개월
       │
       ▼
  최종 답변: "E204는 베어링 과부하입니다. CNC-07은 최근 교체 후
             14개월 경과, 즉시 교체를 권장합니다"

3. 안전성 — 시스템 프롬프트 설계

당신은 스마트팩토리 설비 관리 전문 AI입니다.
- 역할: CNC·로봇·컨베이어 설비 진단 및 정비 지원
- 원칙 1: 확신 없는 정보는 "담당 엔지니어 확인 필요"라고 답한다
- 원칙 2: 안전에 관한 질문은 공식 매뉴얼 우선 참조를 권고한다
- 원칙 3: 제조 설비 외 주제는 정중히 거절한다
- 원칙 4: 구체적 수치(토크, 압력 등)는 반드시 출처를 명시한다

함정 주의: 파인튜닝 후 모델이 자신감 있게 틀린 정비 지시를 내릴 수 있다. 특히 안전 관련 지시(전압·압력·토크 수치)는 환각 위험이 높다. 프로덕션 배포 전 반드시 Red Teaming 테스트로 이런 케이스를 발굴하고 시스템 프롬프트에 안전장치를 추가해야 한다.

---

다음 task와의 연결

다음 project '주간 프로젝트: 제조 도메인 sLLM 구축'에서는 오늘 설계한 하이브리드 아키텍처를 직접 구현한다. 설비 매뉴얼 100페이지를 학습 데이터로 변환하고, QLoRA 파인튜닝 + RAG 결합 시스템을 구축하는 것이 목표다.

스마트팩토리 AI 어시스턴트를 만들 때 QLoRA 파인튜닝(알람 코드·정비 용어 습득)과 RAG(실시간 센서 데이터·작업 지시 조회)를 어떻게 결합하는지 설명해줘. 파인튜닝으로 해결할 수 있는 것과 RAG가 반드시 필요한 것을 명확히 구분하고, 시스템 프롬프트에 '제조 전문가 역할 + 모르면 모른다고 답하기 + 확신 없는 정보는 전문가 확인 권고'를 넣는 이유도 알려줘.