▶️16분
[영상] RAG 개념과 아키텍처 — 누구든지 이해시켜 드릴게요
Day 1: RAG 개요 & 제조 문서 이해
[영상] RAG 개념과 아키텍처 — 누구든지 이해시켜 드릴게요
RAG 기초 > Day 1: RAG 개요 & 제조 문서 이해
학습 목표
- RAG(Retrieval-Augmented Generation)의 핵심 개념과 등장 배경을 설명할 수 있다
- LLM 단독 사용의 세 가지 근본적 한계를 구체적으로 기술할 수 있다
- RAG 파이프라인을 색인·검색·생성 세 국면으로 나누고, 그 안의 여섯 단계를 순서대로 그릴 수 있다
- 제조 현장에서 RAG가 필요한 실제 시나리오를 두 가지 이상 제시할 수 있다
영상 핵심 정리 — RAG 개념과 아키텍처
LLM만 쓰면 왜 안 되는가?
LLM은 학습 데이터 범위 내에서만 답변을 생성한다. 제조 현장에서 맞닥뜨리는 세 가지 치명적 한계가 있다.
| 한계 | 증상 | 제조 현장 예시 |
|---|---|---|
| 지식 컷오프 | 최신 설비 펌웨어 모름 | 2024년 출시 PLC 매뉴얼 없음 |
| 환각(Hallucination) | 그럴듯하지만 틀린 답 | 존재하지 않는 부품 번호 반환 |
| 내부 문서 미인식 | 사내 SOP, 품질 규격 무시 | ISO 9001 내부 절차서 참조 불가 |
RAG 파이프라인: 세 국면, 여섯 단계
[오프라인 단계]
문서(PDF/CAD/매뉴얼) → 청킹 → 임베딩 모델 → 벡터 DB 저장
[온라인 단계]
사용자 질문 → 임베딩 → 벡터 DB 유사도 검색 → 관련 청크 k개 추출
→ [질문 + 청크] 합친 프롬프트 → LLM 생성 → 출처 포함 답변 반환자료마다 이 흐름을 3단계로도, 4단계로도, 6단계로도 센다. 같은 것을 다르게 묶은 것이다. 이 과정에서는 다음과 같이 부른다.
| 국면 | 세부 단계 |
|---|---|
| 색인 | ① 문서 로드 ② 청킹 ③ 임베딩 ④ 벡터 DB 저장 |
| 검색 | ⑤ 질문 임베딩과 유사도 검색 |
| 생성 | ⑥ 프롬프트 조합과 답변 생성 |
오답은 대개 검색에서 시작된다
RAG가 틀린 답을 내면 LLM을 먼저 의심하기 쉽지만, 검색된 문서를 열어 보면 애초에 근거가 잘못 올라온 경우가 많다. 검색이 놓친 것을 생성이 메울 수는 없으므로 청킹 전략과 임베딩 품질이 먼저다.
둘 중 어느 쪽이 문제인지는 재보면 알 수 있다. 질문마다 정답 문서를 미리 적어 두고 검색 결과에 그 문서가 들어왔는지 세는 것으로 충분하다. Day 4와 Day 5에서 이 숫자를 직접 만든다. 자기 시스템에서 잰 값이 아니면 어떤 비율도 근거가 되지 않는다.
제조 RAG 설계 체크리스트
- 문서 유형: PDF 설비 매뉴얼, Excel 품질 규격, HTML 사내 위키
- 청크 크기: 기술 문서는 512~1024 토큰 권장
- 임베딩 모델: 한국어를 학습한 다국어 모델을 쓴다 — BGE-M3, 또는 구글 계열이라면
gemini-embedding-001. 이름이 비슷한text-embedding-004는 영어 전용이므로 한국어 문서에 쓰지 않는다 - 벡터 DB: 프로토타입은 Chroma, 프로덕션은 Qdrant(Rust 기반 고속)
과신하기 쉬운 대목: 'RAG를 붙이면 다 해결된다'는 생각. 문서 전처리(OCR 품질, 표 파싱)가 나쁘면 임베딩 품질도 나빠진다.
다음 task와의 연결
다음 reading에서는 'RAG가 LLM 한계를 어떻게 메우는가'를 프롬프트 엔지니어링 관점에서 심층 분석한다.
AI로 학습하기 — 꿀팁
RAG 아키텍처 LLM 한계 극복 질문AI 학습 팁
LLM의 지식 컷오프·환각·내부 문서 미인식 한계를 RAG가 어떻게 해결하는지, 제조 현장 설비 매뉴얼 Q&A 시나리오로 AI에게 구체적으로 설명받으세요.
제조 현장 설비 매뉴얼 Q&A 시스템을 RAG로 구축한다고 할 때, LLM의 지식 컷오프·환각·내부 문서 미인식 3가지 한계를 RAG가 각각 어떻게 해결하는지 설명해줘. KOSHA 안전지침 검색과 고장 이력 분석에 RAG를 적용하는 구체적인 아키텍처(질문→검색→컨텍스트 주입→생성)도 다이어그램으로 설명해줘.
이 팁이 도움이 됐나요?
핵심 포인트
- • LLM의 3대 한계: 지식 컷오프, 환각(hallucination), 내부 전용 문서 미인식
- • RAG = 검색(Retrieval) + 생성(Generation): 질문 시점에 외부 DB에서 관련 문서를 끌어와 LLM 컨텍스트에 주입
- • 제조 적용 예시: 설비 매뉴얼 Q&A, KOSHA 안전지침 검색, 고장 이력 분석
- • RAG의 오답은 생성보다 검색에서 시작되는 일이 많다 — 어느 쪽이 문제인지는 검색된 문서를 직접 열어 봐야 안다