영상 핵심 정리 — LLM과 트랜스포머 직관적 이해

이 영상은 대형 언어 모델(LLM)의 내부 구조를 수식 없이 직관으로 이해하도록 설계되었다. 핵심은 트랜스포머라는 아키텍처이며, 2017년 구글의 논문 'Attention is All You Need'로 세상에 공개되었다.

---

1. 왜 트랜스포머인가?

RNN은 단어를 순서대로 처리하기 때문에 긴 문장에서 앞부분 정보를 잊는다. 트랜스포머는 시퀀스 전체를 동시에 병렬 처리하여 이 문제를 해결한다.

입력: "설비 A의 온도가 85°C를 초과하면 경보를 발생시켜라"

[RNN]  순차 처리 → 앞 문맥 소실 위험
[ATT]  모든 토큰 쌍 관계 동시 계산 → 문맥 보존

2. Self-Attention 핵심 원리

각 단어는 Query·Key·Value 세 벡터로 변환된다. Query와 Key의 내적으로 관심도 점수를 계산하고, Softmax로 정규화한 뒤 Value를 가중합산한다.

모델	방향	주요 용도
GPT 계열	단방향(좌→우)	텍스트 생성, 챗봇
BERT 계열	양방향	분류, 검색, 요약
T5	인코더-디코더	번역, 요약, QA

3. 제조 현장 LLM 활용 지도

• 설비 매뉴얼 Q&A: 수천 페이지 PDF에서 즉시 답 추출
• 불량 리포트 분류: 자연어 기술을 카테고리로 자동 분류
• 공정 로그 요약: 8시간 교대 로그를 3줄 요약으로 압축
• 예지 정비 보고서: 센서 데이터 해석 보조

함정 주의: LLM은 확률적 패턴 매칭이지 진정한 '이해'가 아니다. 안전 임계값·법적 기준 등 정확도가 생명인 판단은 반드시 사람이 검증해야 한다.

---

다음 task와의 연결

'LLM이란? 트랜스포머의 직관적 이해' 읽기 자료에서 Self-Attention 수식을 직접 따라가며 오늘 영상의 직관을 수식으로 굳힌다.

트랜스포머의 Self-Attention 메커니즘이 제조 현장 고장 보고서에서 '베어링 온도 상승 → 윤활 부족 → 교체 필요' 같은 인과 관계를 어떻게 포착하는지 Q/K/V 행렬 계산 과정으로 설명해줘. RNN이 순차 처리 병목을 겪는 이유와 트랜스포머가 병렬 처리로 이를 해소하는 방식도 비교해줘.