▶️50

세 가지 대표 실패

실패 진단과 가드레일

학습 목표

무한루프·핸드오프 누락·도구 오류의 증상을 구분한다 증상에서 원인으로 거슬러 간다

▶️

영상 준비 중

50

에이전트는 이렇게 망가진다

1. 무한루프 (Infinite Loop)

같은 일을 계속 반복하며 끝나지 않습니다.

증상: 단계 수가 상한까지 올라가고, 트레이스에 비슷한 도구 호출이 반복됩니다.

원인

  • 종료 조건이 없거나 모호하다 — "충분히 조사했으면 끝내라"는 판단 기준이 없다
  • 두 에이전트가 서로 넘기기를 반복한다 — A가 B에게, B가 다시 A에게
  • 도구가 매번 같은 값을 주는데 에이전트가 다른 결과를 기대한다

2. 핸드오프 누락 (Missing Handoff)

넘겨야 할 일을 넘기지 않고 혼자 처리합니다.

증상: 한 에이전트가 자기 역할 밖의 결론까지 냅니다. 다른 에이전트는 호출되지 않습니다.

원인

  • 넘기는 조건이 모호하다
  • 역할 범위에 금지 사항이 없다 — "정비 조치는 제안하지 않는다"가 빠졌다
  • 넘길 대상의 존재를 지시문에서 알려주지 않았다

위험한 이유: 전문성 없는 에이전트가 낸 결론을 시스템이 최종 답으로 내놓습니다. 겉보기에는 정상 작동한 것처럼 보이기 때문에 발견이 늦습니다.

3. 도구 오류 (Tool Error)

도구가 실패했는데 그것을 처리하지 못합니다.

증상: 도구가 오류나 빈 값을 돌려줬는데도 결론을 냅니다.

원인

  • 오류 응답을 어떻게 다룰지 지시하지 않았다
  • 에이전트가 "데이터 없음"과 "정상"을 구분하지 못한다

가장 위험한 실패입니다. 데이터 없이 만든 결론이 자신 있는 답처럼 나옵니다.

증상에서 원인으로

증상먼저 볼 곳
끝나지 않는다종료 조건, 핸드오프 왕복
한 에이전트가 다 한다역할 범위와 금지 사항
근거 없는 결론도구 응답과 오류 처리
비용이 예상보다 크다반복 호출, 넘기는 내용의 크기