25

Agent 모니터링: 블랙박스를 투명하게

Day 4: 설비 조회 Agent

학습 목표

Agent의 동작을 모니터링하는 방법을 안다 핵심 지표(호출 횟수, 응답 시간, 정확도)를 추적할 수 있다 LangSmith를 활용한 Agent 추적을 이해한다

Agent는 블랙박스다

Agent를 배포하면 이런 질문이 온다.

"Agent가 왜 그렇게 답했어?" "어제보다 느려진 것 같은데?" "API 비용이 얼마나 나오는 거야?"

답하려면 모니터링이 필요하다.


핵심 지표 (KPI)

지표설명목표
응답 시간질문~최종 응답< 15초
Tool 호출 수질문당 평균< 5회
정확도현장 만족도> 90%
캐시 히트율캐시 적중률> 50%
에러율Tool 실패율< 5%
Token 비용질문당 비용< $0.01

구조적 로깅

에디터 로딩 중...

LangSmith 연동 (권장)

LangChain을 사용하면 LangSmith로 자동 추적이 가능하다.

에디터 로딩 중...
에디터 로딩 중...

LangSmith는 무료 플랜으로도 충분히 시작할 수 있다. Agent 디버깅에 필수 도구다.


현장 리포트 자동화

에디터 로딩 중...