10분
통합 프로덕션 RAG 시스템
Day 4: 프로덕션 RAG
통합 프로덕션 RAG 시스템
RAG 심화 > Day 4: 프로덕션 RAG
학습 목표
- Self-RAG + Corrective RAG + Adaptive RAG를 하나의 파이프라인으로 통합할 수 있다
- 인메모리 캐시와 TTL을 구현하고 캐시 히트율을 측정할 수 있다
- 판단 과정을 로깅하고 검증과 보강의 순서를 지켜 설계할 수 있다
통합 프로덕션 RAG 시스템
Self-RAG, Corrective RAG, Adaptive RAG의 장점을 결합한 프로덕션급 RAG 시스템을 만든다.
아키텍처
[질문] -> [Adaptive 분류] -> Simple: 직접 답변
-> Standard: Self-RAG + CRAG
-> Complex: 분해 + Self-RAG + CRAG
-> Safety: 강화 검색 + 이중 검증프로덕션 요소
- 캐싱 (동일 질문 반복 방지) + 히트율 측정
- 로깅 (판단 과정 기록)
- 에러 처리 (API 실패 대응)
Redis 시맨틱 캐시·지수 백오프 재시도·LangFuse 분산 추적은 영상에서 소개했지만 이번 코드에는 넣지 않는다. 인메모리 dict 캐시로 히트율을 세는 데까지가 이 과제의 범위다. 세지 않는 지표는 운영 기준이 될 수 없다는 것을 먼저 몸에 붙인다.
검증과 보강의 순서
안전 전략 분기에서 답변에 경고문을 자동으로 덧붙이는 대목이 나온다. 반드시 검증을 먼저 하고 보강을 뒤에 붙인다. 순서가 바뀌면 시스템이 자기가 쓴 문구를 보고 자기 점수를 매기게 되고, 그 점수가 배포 판단을 통과시킨다. 보강했다는 사실은 metadata 에 남겨 평가 때 골라낼 수 있게 한다.
아래 스타터 코드의 메서드를 모두 완성하세요. 캐시 세 개, 파이프라인 단계 다섯 개, 그리고 이들을 엮는 query 입니다.
에디터 로딩 중...
힌트 보기
- • 안전 관련 질문은 키워드 매칭으로 먼저 감지하여 LLM 분류를 거치지 않게 하세요
- • 캐시 키는 질문을 소문자로 정규화한 후 해시하세요
- • 히트율은 질의 수와 히트 수를 세면 됩니다. 세지 않으면 운영 기준으로 쓸 수 없습니다
- • 이중 검증: 답변 생성 후 충실도를 다시 확인합니다
- • 경고문 자동 보강은 검증 '이후'에 하고, 보강 여부를 metadata에 남기세요
정답 보기
에디터 로딩 중...
AI로 학습하기 — 꿀팁
프로덕션 RAG 오류 처리 점검AI 학습 팁
AI에게 Self-RAG·CRAG·Adaptive RAG 통합 코드의 로깅·캐싱·예외 처리 누락을 점검받으세요. 제조 현장 24/7 운영 시나리오 기준 장애 지점을 사전에 확인하세요.
이 통합 프로덕션 RAG 코드(Self-RAG+CRAG+Adaptive RAG)를 제조 현장 24/7 운영 관점에서 점검해줘. 외부 LLM API 타임아웃 처리, 캐시 무효화 시점, 구조적 로깅 누락, 부분 실패 시 롤백 전략이 빠진 부분을 찾고 개선안을 제안해줘.
이 팁이 도움이 됐나요?