왜 Agent가 실패할까?

"Agent 만들었는데 쓸모가 없어요." 제조 현장에서 가장 많이 듣는 말이다.

대부분 설계 단계에서 실패한다.

---

원칙 1: 하나의 Agent, 하나의 역할

나쁜 설계:

좋은 설계:

"Tool이 10개를 넘으면 LLM이 흔들린다." 역할을 명확히 나누자.

---

원칙 2: Tool 이름이 곧 문서다

LLM은 Tool의 이름과 설명만 보고 선택한다.

나쁜 Tool 이름:

좋은 Tool 이름:

이름 규칙:

접두사	의미	예시
get_	조회 (읽기)	get_equipment_status
check_	확인/검증	check_inventory
search_	검색	search_manual
create_	생성 (쓰기)	create_work_order
update_	수정	update_maintenance_plan
calculate_	계산	calculate_oee

---

원칙 3: Tool 설명은 상세하게

나쁜 설명:

좋은 설명:

LLM은 설명이 구체적일수록 정확하게 Tool을 선택한다.

---

원칙 4: 에러 처리는 필수

제조 현장에서 시스템은 자주 불안정하다. 네트워크 끊김, MES 점검, 데이터 누락...

나쁜 에러 처리:

좋은 에러 처리:

Tool이 에러를 문자열로 설명하면, LLM이 사용자에게 적절히 안내할 수 있다.

---

원칙 5: 안전 장치를 넣어라

제조 현장의 Agent는 실제 시스템을 건드린다. 잘못된 작업지시가 나가면 생산 라인이 멈춘다.

---

5대 원칙 요약

#	원칙	핵심
1	단일 역할	Tool 10개 이내
2	명확한 이름	동사_목적어 형식
3	상세한 설명	입출력, 형식, 예시 포함
4	에러 처리	문자열 반환으로 안내
5	안전 장치	위험 Tool은 확인 단계

"Agent는 코드가 아니라 설계로 성패가 갈린다."