제조 AI 도입 실패 사례

---

실패 1: "AI가 알아서 진단해 줄 거야"

상황: A 제조사가 LLM 기반 설비 진단 시스템을 도입했다.

엔지니어: "모터에서 이상한 소리가 나요"

AI: "베어링 마모로 보입니다. 즉시 교체하세요."

현실: 실제 원인은 커플링 정렬 불량이었다.
      AI가 "베어링 마모"라고 자신 있게 말했기 때문에
      엔지니어는 베어링을 교체했다.
      당연히 문제가 해결되지 않았다.
      2일 뒤에야 진짜 원인을 찾았다.

교훈: LLM은 참고 도구이지 의사결정자가 아니다. 반드시 전문가의 확인을 거쳐야 한다.

---

실패 2: "환각(Hallucination)을 몰랐어요"

상황: B 회사가 LLM으로 절삭 조건을 추천받았다.

질문: "SUS316L 엔드밀 가공 시 최적 절삭 속도는?"

AI: "SUS316L의 최적 절삭 속도는 150 m/min입니다."

현실: SUS316L은 난삭재로, 실제 권장 절삭 속도는
      60~80 m/min이다.
      150 m/min으로 가공하면 공구가 즉시 파손된다.
      최악의 경우 파편이 날아가 안전사고 발생.

환각(Hallucination)이란? LLM이 그럴듯하지만 사실이 아닌 정보를 생성하는 현상. LLM은 "모른다"고 말하지 않는다. 자신있게 거짓말한다.

[환각 위험도]

낮음: 일반 대화, 문서 요약
      → 틀려도 큰 문제 없음

중간: 보고서 작성, 공정 분석
      → 검토 필요

높음: 절삭 조건, 설비 설정값, 안전 관련
      → 반드시 전문가 확인 필수

극높음: 전기/유압 작업 지시, 화학물질 취급
        → LLM만으로 절대 판단하면 안 됨

---

실패 3: "비용 관리 안 했어요"

상황: C 회사가 GPT-4o로 모든 질문을 처리했다.

[1개월 후 청구서]

일일 질문: 500건
평균 토큰: 입력 2,000 + 출력 1,500
모델: GPT-4o

비용 계산:
입력: 500 * 2,000 / 1,000,000 * $2.5 = $2.5/일
출력: 500 * 1,500 / 1,000,000 * $10 = $7.5/일
일일 합계: $10/일
월 합계: $300/월 (약 40만 원)

→ "이거 예산 초과인데?"

해결: 모델을 용도별로 나눠 쓰면 된다.

[비용 최적화 전략]

간단한 Q&A (80%): GPT-4o-mini  → $0.38/일
복잡한 분석 (15%): GPT-4o      → $1.50/일
특수 업무 (5%):    Claude 3.5   → $0.75/일

최적화 후 월 합계: ~$80/월 (약 10만 원)
절감: 73%

---

제조 AI 올바른 사용 원칙

[3가지 원칙]

1. AI는 "참고"다. 최종 판단은 사람이 한다.
   → 특히 안전, 품질, 설비 설정값

2. 수치 데이터는 반드시 검증한다.
   → 절삭 조건, 온도, 압력 등

3. 비용을 관리한다.
   → 용도별 모델 구분, 토큰 모니터링