▶️50분
세 가지 대표 실패
실패 진단과 가드레일
세 가지 대표 실패
실패 진단과 가드레일 > 실패 진단과 가드레일
학습 목표
무한루프·핸드오프 누락·도구 오류의 증상을 구분한다 증상에서 원인으로 거슬러 간다
▶️
영상 준비 중
50분
에이전트는 이렇게 망가진다
1. 무한루프 (Infinite Loop)
같은 일을 계속 반복하며 끝나지 않습니다.
증상: 단계 수가 상한까지 올라가고, 트레이스에 비슷한 도구 호출이 반복됩니다.
원인
- 종료 조건이 없거나 모호하다 — "충분히 조사했으면 끝내라"는 판단 기준이 없다
- 두 에이전트가 서로 넘기기를 반복한다 — A가 B에게, B가 다시 A에게
- 도구가 매번 같은 값을 주는데 에이전트가 다른 결과를 기대한다
2. 핸드오프 누락 (Missing Handoff)
넘겨야 할 일을 넘기지 않고 혼자 처리합니다.
증상: 한 에이전트가 자기 역할 밖의 결론까지 냅니다. 다른 에이전트는 호출되지 않습니다.
원인
- 넘기는 조건이 모호하다
- 역할 범위에 금지 사항이 없다 — "정비 조치는 제안하지 않는다"가 빠졌다
- 넘길 대상의 존재를 지시문에서 알려주지 않았다
위험한 이유: 전문성 없는 에이전트가 낸 결론을 시스템이 최종 답으로 내놓습니다. 겉보기에는 정상 작동한 것처럼 보이기 때문에 발견이 늦습니다.
3. 도구 오류 (Tool Error)
도구가 실패했는데 그것을 처리하지 못합니다.
증상: 도구가 오류나 빈 값을 돌려줬는데도 결론을 냅니다.
원인
- 오류 응답을 어떻게 다룰지 지시하지 않았다
- 에이전트가 "데이터 없음"과 "정상"을 구분하지 못한다
가장 위험한 실패입니다. 데이터 없이 만든 결론이 자신 있는 답처럼 나옵니다.
증상에서 원인으로
| 증상 | 먼저 볼 곳 |
|---|---|
| 끝나지 않는다 | 종료 조건, 핸드오프 왕복 |
| 한 에이전트가 다 한다 | 역할 범위와 금지 사항 |
| 근거 없는 결론 | 도구 응답과 오류 처리 |
| 비용이 예상보다 크다 | 반복 호출, 넘기는 내용의 크기 |