▶️25분
[영상] RAG 개념과 아키텍처 — 누구든지 이해시켜 드릴게요
Day 1: RAG 개요 & 제조 문서 이해
[영상] RAG 개념과 아키텍처 — 누구든지 이해시켜 드릴게요
RAG 기초 > Day 1: RAG 개요 & 제조 문서 이해
학습 목표
RAG(Retrieval-Augmented Generation)의 핵심 개념과 등장 배경을 설명할 수 있다 LLM 단독 사용의 세 가지 근본적 한계를 구체적으로 기술할 수 있다 RAG 4단계 파이프라인(문서 적재 → 청킹 → 임베딩 → 검색·생성)의 흐름을 그릴 수 있다 제조 현장에서 RAG가 필요한 실제 시나리오를 두 가지 이상 제시할 수 있다
영상 핵심 정리 — RAG 개념과 아키텍처
LLM만 쓰면 왜 안 되는가?
LLM은 학습 데이터 범위 내에서만 답변을 생성한다. 제조 현장에서 맞닥뜨리는 세 가지 치명적 한계가 있다.
| 한계 | 증상 | 제조 현장 예시 |
|---|---|---|
| 지식 컷오프 | 최신 설비 펌웨어 모름 | 2024년 출시 PLC 매뉴얼 없음 |
| 환각(Hallucination) | 그럴듯하지만 틀린 답 | 존재하지 않는 부품 번호 반환 |
| 내부 문서 미인식 | 사내 SOP, 품질 규격 무시 | ISO 9001 내부 절차서 참조 불가 |
RAG 4단계 파이프라인
[오프라인 단계]
문서(PDF/CAD/매뉴얼) → 청킹 → 임베딩 모델 → 벡터 DB 저장
[온라인 단계]
사용자 질문 → 임베딩 → 벡터 DB 유사도 검색 → 관련 청크 k개 추출
→ [질문 + 청크] 합친 프롬프트 → LLM 생성 → 출처 포함 답변 반환검색 실패가 73%를 차지한다
최신 연구에서 RAG 오답의 73%는 LLM이 잘못 생성한 게 아니라 검색 단계에서 엉뚱한 문서가 올라왔기 때문임을 밝혔다. 따라서 청킹 전략과 임베딩 품질이 RAG 품질의 핵심 변수다.
제조 RAG 설계 체크리스트
- 문서 유형: PDF 설비 매뉴얼, Excel 품질 규격, HTML 사내 위키
- 청크 크기: 기술 문서는 512~1024 토큰 권장
- 임베딩 모델: 다국어(한국어 지원) 모델 필수 — BGE-M3 또는 text-embedding-004
- 벡터 DB: 프로토타입은 Chroma, 프로덕션은 Qdrant(Rust 기반 고속)
함정 주의: 'RAG를 붙이면 모든 게 해결된다'는 과신. 문서 전처리(OCR 품질, 표 파싱)가 나쁘면 임베딩 품질도 나빠진다.
다음 task와의 연결
다음 reading에서는 'RAG가 LLM 한계를 어떻게 메우는가'를 프롬프트 엔지니어링 관점에서 심층 분석한다.
AI로 학습하기 — 꿀팁
🧪RAG 아키텍처 LLM 한계 극복 질문AI 학습 팁
LLM의 지식 컷오프·환각·내부 문서 미인식 한계를 RAG가 어떻게 해결하는지, 제조 현장 설비 매뉴얼 Q&A 시나리오로 AI에게 구체적으로 설명받으세요.
제조 현장 설비 매뉴얼 Q&A 시스템을 RAG로 구축한다고 할 때, LLM의 지식 컷오프·환각·내부 문서 미인식 3가지 한계를 RAG가 각각 어떻게 해결하는지 설명해줘. KOSHA 안전지침 검색과 고장 이력 분석에 RAG를 적용하는 구체적인 아키텍처(질문→검색→컨텍스트 주입→생성)도 다이어그램으로 설명해줘.
이 팁이 도움이 됐나요?
핵심 포인트
- • LLM의 3대 한계: 지식 컷오프, 환각(hallucination), 내부 전용 문서 미인식
- • RAG = 검색(Retrieval) + 생성(Generation): 질문 시점에 외부 DB에서 관련 문서를 끌어와 LLM 컨텍스트에 주입
- • 제조 적용 예시: 설비 매뉴얼 Q&A, KOSHA 안전지침 검색, 고장 이력 분석
- • RAG 실패의 73%는 생성이 아닌 검색 단계에서 발생 — 검색 품질이 핵심