20분
"데모에서는 됐는데 실제로는 안 돼요" 방지하기
Day 5: 제조 매뉴얼 Q&A 챗봇
"데모에서는 됐는데 실제로는 안 돼요" 방지하기
LLM 기초 > Day 5: 제조 매뉴얼 Q&A 챗봇
학습 목표
데모 품질과 프로덕션 품질의 차이를 이해한다 제조 현장에서 요구하는 안정성 수준을 파악한다
데모 vs 프로덕션
데모에서 잘 되는 이유
[데모 환경]
- 개발자 1명이 사용
- 좋은 네트워크
- 예상된 질문만 테스트
- 에러? 그냥 다시 실행
프로덕션에서 문제 되는 이유
[실제 환경]
- 엔지니어 50명이 동시 사용
- 공장 와이파이 (불안정)
- 예상 못한 질문 (오타, 이미지 붙여넣기)
- 에러? "이 AI 쓰레기야" → 다시 안 씀
프로덕션 품질 체크리스트
| 항목 | 데모 수준 | 프로덕션 수준 |
|---|---|---|
| 에러 처리 | try/except만 | 분류별 대응 + 재시도 + 폴백 |
| 입력 검증 | 없음 | 빈 입력, 길이 제한, 특수문자 |
| 비용 관리 | 무시 | 모델 라우팅 + 토큰 제한 + 캐싱 |
| 사용성 | 기본 | 예시 질문, 도움말, 피드백 |
| 로깅 | 없음 | 질문/응답/에러/비용 기록 |
| 보안 | API 키 노출 | .env + 환경변수 |
오늘 추가할 프로덕션 기능
1. 에러 처리 & 재시도
└── 네트워크 끊겨도 자동 복구
2. 입력 검증
└── 빈 입력, 너무 긴 입력 차단
3. 비용 추적
└── 실시간 비용 표시
4. 대화 내보내기
└── Markdown 파일로 저장
5. 피드백 수집
└── 👍/👎 버튼으로 답변 평가
6. 예시 질문 버튼
└── 클릭 한 번으로 질문AI로 학습하기 — 꿀팁
✅데모 품질 vs 프로덕션 품질 기준 검증AI 학습 팁
제조 현장 AI 프로덕션 배포 기준이 일반 IT보다 엄격한 이유와 실제 요구 수준을 과장 없이 파악하세요.
'제조 현장 AI 프로덕션 배포는 99.9% 가용성이 필수다'라는 주장을 검증해주세요. (1) 자동차/반도체/식품 제조 현장의 실제 AI 시스템 SLA 요구사항 사례, (2) '데모에서 됐는데 프로덕션에서 안 된 사례'에서 실패 원인 상위 5가지(환경 차이, 데이터 드리프트, 동시접속 부하 등), (3) Week 1 수준의 Streamlit 챗봇이 실제 프로덕션에 투입될 때 추가로 필요한 최소 요구사항 목록을 제시해주세요.
이 팁이 도움이 됐나요?