제조 AI 도입 실패 사례

---

실패 1: "AI가 알아서 진단해 줄 거야"

상황: A 제조사가 LLM 기반 설비 진단 시스템을 도입했다.

교훈: LLM은 참고 도구이지 의사결정자가 아니다. 반드시 전문가의 확인을 거쳐야 한다.

---

실패 2: "환각(Hallucination)을 몰랐어요"

상황: B 회사가 LLM으로 절삭 조건을 추천받았다.

환각(Hallucination)이란? LLM이 그럴듯하지만 사실이 아닌 정보를 생성하는 현상. LLM은 "모른다"고 말하지 않는다. 자신있게 거짓말한다.

---

실패 3: "비용 관리 안 했어요"

상황: C 회사가 GPT-4o로 모든 질문을 처리했다.

해결: 모델을 용도별로 나눠 쓰면 된다.

---

제조 AI 올바른 사용 원칙