25분
스트리밍 응답과 에러 처리 구현법
Day 3: API 활용 & 토큰 이해
스트리밍 응답과 에러 처리 구현법
LLM 기초 > Day 3: API 활용 & 토큰 이해
학습 목표
스트리밍 API의 원리와 장점을 이해한다 지수 백오프 재시도 패턴을 구현할 수 있다 제조 현장에 적합한 에러 처리 전략을 설계할 수 있다
스트리밍 응답
일반 응답 vs 스트리밍
에디터 로딩 중...
왜 중요한가? 제조 현장에서 "설비가 멈췄는데 AI가 5초 동안 아무 반응이 없다"면 엔지니어는 답답해서 다시 매뉴얼을 뒤진다. 스트리밍이면 0.1초 만에 첫 글자가 나온다.
스트리밍 구현 코드
에디터 로딩 중...
에러 처리
주요 에러 유형
| 에러 | HTTP 코드 | 원인 | 대응 |
|---|---|---|---|
| RateLimitError | 429 | 요청 한도 초과 | 재시도 (백오프) |
| APITimeoutError | - | 응답 시간 초과 | 재시도 |
| APIConnectionError | - | 네트워크 문제 | 재시도 |
| AuthenticationError | 401 | API 키 오류 | 키 확인 (재시도 불가) |
| BadRequestError | 400 | 잘못된 요청 | 요청 수정 (재시도 불가) |
지수 백오프 (Exponential Backoff)
에디터 로딩 중...
재시도 구현
에디터 로딩 중...
제조 현장 에러 처리 전략
에디터 로딩 중...