AI API에서 429, 401, 500 오류가 발생하면? 3가지 오류의 재시도, 기능 축소 및 서킷 브레이커 적용 실무
작성자 주: 이 글에서는 AI API에서 429, 401, 500 오류가 발생하는 원인과 처리 방법을 오류 코드별로 살펴봐요. 어떤 오류는 재시도하고 어떤 오류는 설정을 수정해야 하는지, 지수 백오프·멀티 모델 대체·서킷 브레이커를 각각 어디에 적용할 수 있는지도 설명해요. 운영 환경에서 대규모 언어 모델을 호출하다 보면, 새벽에 알림 채널에 429, 401, 500 오류가 줄줄이 올라오는 일을 겪곤 해요….