출처 추적이 중요한 이유

일반 챗봇: 답변이 틀려도 "다시 물어보면" 된다. 제조 RAG: 답변이 틀리면 장비 파손, 안전사고, 법적 책임.

[ISO 감사 시나리오]

감사관: "이 작업 절차는 어떤 문서에 근거한 겁니까?"

❌ 출처 없는 RAG:
   "AI가 알려줬습니다."
   → 감사 부적합 (비적합 사항 발행)

✅ 출처 있는 RAG:
   "SOP-CNC-E001 v2.1, 섹션 3.2에 따릅니다."
   → 감사 통과 (문서 추적 가능)

---

출처 표시 패턴

패턴 1: 인라인 출처

답변: "서보 에러 E-001은 서보 앰프 과전류 감지입니다
      [SOP-CNC-E001 v2.1, 섹션 1].
      냉각팬 작동 여부를 확인하고
      [SOP-CNC-E001 v2.1, 섹션 3.1],
      파라미터 #2012가 80-120 범위인지 확인합니다
      [SOP-CNC-E001 v2.1, 섹션 3.3]."

패턴 2: 하단 참고 문서 목록

답변: (생략)

참고 문서:
1. SOP-CNC-E001 v2.1 (서보 에러 대응 절차)
2. CNC-3000 매뉴얼 Ch.12 (Servo System)
3. KOSHA GUIDE E-76 (전기작업 안전)

패턴 3: 신뢰도 점수 표시

답변: (생략)

신뢰도: ★★★★☆ (85%)
- 검색 유사도: 0.92 (높음)
- 문서 최신성: v2.1 (2024-03-15)
- 참조 문서 수: 3개

⚠ 주의: 파라미터 #2036 관련 정보는
   유사도 0.65로 신뢰도가 낮습니다.

---

답변 품질 개선 체크리스트

[프롬프트 레벨]
□ 역할 명시 (제조 기술 전문가)
□ 출처 표시 규칙 포함
□ "문서에 없으면 모른다고 답변" 규칙
□ 안전 관련 경고 표시 규칙

[검색 레벨]
□ MMR 검색으로 다양한 관점 확보
□ 메타데이터 필터로 설비별 검색
□ 유사도 임계값 (0.7 미만 필터)
□ 최신 버전 문서 우선

[후처리 레벨]
□ 출처 정보 자동 포맷팅
□ 안전 관련 키워드 자동 강조
□ 파라미터 값 범위 검증
□ 관련 문서 추가 추천

---

잘못된 답변 방지: Guard Rails

def validate_answer(answer: str, context: str) -> dict:
    """답변의 안전성을 검증한다."""

    checks = {
        "has_citation": "[출처" in answer or "[문서" in answer,
        "no_hallucination": "일반적으로" not in answer,
        "has_safety_warning": (
            "주의" in answer or "경고" in answer
            or "위험" in answer
            if "안전" in context or "전기" in context
            else True
        ),
        "no_uncertain": (
            "아마" not in answer
            and "것 같습니다" not in answer
        ),
    }

    checks["all_passed"] = all(checks.values())
    return checks