영상 핵심 정리 — OpenAI API와 토큰 경제학

API를 호출하는 것은 간단하지만, 비용을 통제하며 안정적으로 운영하는 것은 다른 이야기다. 이 영상은 실제 코드와 비용 계산을 함께 다룬다.

---

1. API 기본 구조

from openai import OpenAI
client = OpenAI(api_key='sk-...')

response = client.chat.completions.create(
    model='gpt-4o-mini',
    messages=[
        {'role': 'system', 'content': '당신은 제조 품질 전문가입니다.'},
        {'role': 'user', 'content': '오늘 불량률이 3.2%입니다. 원인을 분석해주세요.'}
    ],
    temperature=0.2,
    max_tokens=500
)
print(response.choices[0].message.content)
print(f'사용 토큰: {response.usage.total_tokens}')

2. 토큰 비용 계산표

모델	입력(1M 토큰)	출력(1M 토큰)
gpt-4o	$2.50	$10.00
gpt-4o-mini	$0.15	$0.60
gpt-4-turbo	$10.00	$30.00

제조 Q&A 1회 = 약 800 입력 + 400 출력 토큰 → gpt-4o-mini 기준 $0.00036

3. 핵심 파라미터 가이드

• temperature: 불량 분석(0.1) vs 아이디어 브레인스토밍(0.8)
• max_tokens: 출력 토큰 상한선 — 비용 통제의 첫 번째 도구
• top_p: temperature와 함께 사용하면 예측 불가능성 증폭, 둘 중 하나만 조정 권장

함정 주의: system 프롬프트는 매 API 호출마다 과금된다. 1,000토큰짜리 system 프롬프트를 하루 10,000번 호출하면 매월 입력 토큰만 3억 개다. system 프롬프트 길이 최적화는 비용 절감의 핵심이다.

---

다음 task와의 연결

'API 첫 호출 & 토큰 계산' 읽기 자료에서 tiktoken 라이브러리로 호출 전 토큰 수를 미리 추정하는 방법을 실습한다.

OpenAI API로 제조 설비 고장 진단 챗봇을 만들 때 temperature 설정과 system/user/assistant role 구성의 잘못된 예시 3가지를 만들어줘. temperature=1.5로 진단 답변을 받을 때의 문제, system 프롬프트 없이 user에만 맥락을 넣을 때의 차이, 그리고 한국어 입출력 토큰 과금이 영어 대비 얼마나 차이 나는지도 수치로 보여줘.