"이번 주에 배운 모든 것을 하나로" - 최종 프로젝트 | LLM 기초

Week 1 최종 프로젝트: 제조 도메인 Q&A 챗봇

🎯 오늘의 미션: 지난 나흘에 배운 것을 합쳐 제조 도메인 Q&A 챗봇을 완성한다. 이 챗봇은 매뉴얼을 읽지 않는다. 분야별 시스템 프롬프트와 대화 관리, 에러 처리, 비용 추적을 갖춘 뼈대를 만드는 것이 오늘의 일이고, 매뉴얼을 검색해 근거를 붙이는 일은 다음 주에 이 뼈대 위에 얹는다. 오늘이 끝나면 포트폴리오에 올릴 수 있는 결과물이 나온다.

지금까지 배운 것

Day 1: LLM이 뭔지 배웠다
       └── 토큰, 파라미터, 컨텍스트 윈도우
       └── 제조 분야 활용 5대 패턴
       └── Python으로 첫 API 호출

Day 2: 프롬프트 엔지니어링을 배웠다
       └── Zero-shot, Few-shot, CoT, Role-play, Template
       └── 제조 프롬프트 5단계 구성법
       └── 분야별 프롬프트 작성

Day 3: API를 프로처럼 쓰는 법을 배웠다
       └── 토큰 경제학 (비용 관리)
       └── 스트리밍, 에러 처리, 재시도
       └── 프로덕션급 API 클라이언트

Day 4: Streamlit으로 챗봇을 만들었다
       └── session_state, chat_message
       └── 분야별 시스템 프롬프트
       └── 스트리밍 UI

오늘의 미션

Day 4의 챗봇을 **"프로덕션 수준"**으로 업그레이드한다.

[v1.0 (Day 4)]        →    [v2.0 (Day 5)]
기본 대화              →    에러 처리 + 재시도
분야 선택              →    분야별 예시 + 키워드 자동 분류
스트리밍               →    스트리밍 + 비용 추적
대화 초기화            →    내보내기 + 피드백 수집

완성형 시스템 아키텍처

┌─────────────────────────────────────────────────────────────┐
│                  제조 도메인 Q&A 챗봇 v2.0                    │
├─────────────────────────────────────────────────────────────┤
│                                                              │
│  ┌─ 사이드바 ──────────┐  ┌─ 메인 화면 ──────────────────┐  │
│  │                      │  │                              │  │
│  │  [분야 선택]         │  │  제조 AI 어시스턴트 v2.0     │  │
│  │  [모델 선택]         │  │                              │  │
│  │  [Temperature]       │  │  [예시 질문 버튼들]          │  │
│  │                      │  │                              │  │
│  │  ─────────────       │  │  User: 질문                  │  │
│  │  비용: $0.0023       │  │  AI: 답변 (스트리밍)         │  │
│  │  토큰: 1,245         │  │  [👍 👎 피드백]              │  │
│  │  호출: 3회           │  │                              │  │
│  │                      │  │  User: 후속 질문             │  │
│  │  ─────────────       │  │  AI: 답변                    │  │
│  │  [대화 초기화]       │  │                              │  │
│  │  [대화 내보내기]     │  │  [메시지 입력...]            │  │
│  │  [피드백 보기]       │  │                              │  │
│  └──────────────────────┘  └──────────────────────────────┘  │
│                                                              │
├─────────────────────────────────────────────────────────────┤
│  비즈니스 로직                                                │
│  ├── 분야별 시스템 프롬프트 (4종)                             │
│  ├── 에러 처리 + 지수 백오프 (3회 재시도)                     │
│  ├── 대화 히스토리 관리 (최근 10개)                           │
│  ├── 비용 추적 (실시간)                                       │
│  └── 대화 내보내기 (Markdown)                                 │
├─────────────────────────────────────────────────────────────┤
│  OpenAI API (GPT-4o-mini / GPT-4o)                           │
└─────────────────────────────────────────────────────────────┘

오늘 쓰는 시간은 2시간 35분이다. 최종 프로젝트 90분, 도전 과제 45분, 읽기와 퀴즈 20분. 위의 선택 영상까지 보면 한 시간이 더 든다. 프로젝트를 먼저 끝내고 영상은 주말로 미루는 편이 낫다.