토큰 단가만 보지 마세요: 한 번의 작업 전체 비용을 추정하는 7단계
작성자 노트: 입력, 출력, 추론, 캐시, 재시도부터 검증 및 업그레이드까지, 7단계로 “백만 토큰당 얼마인가”를 “작업 한 건을 완료하는 데 얼마인가”로 환산합니다. 많은 팀이 모델을 고를 때 가장 먼저 가격표의 입력·출력 단가를 보고 “이쪽이 절반쯤 싸다”는 결론을 내려요. 그런데 출시한 지 한 달 뒤 청구서를 받아 보면, 싼 모델이 비용을 아껴 주지 않았고 때로는 더 비싼…
