동일한 AI 모델에 수십 개의 API 서비스 제공업체가 있는 이유는? OpenRouter, 6가지 지표로 요청 전달 대상을 결정한다
핵심 답변: 같은 오픈 가중치 모델을 여러 추론 서비스 제공업체가 각각 배포할 수 있기 때문에 API 서비스 제공업체가 수십 곳이나 생겨요. OpenRouter는 누가 표시 가격을 가장 낮게 부르는지만 보는 게 아니라, 사용 가능한 응답 한 번을 기준으로 한 종합 비용을 따져 제공업체를 골라요. 실제 유효 가격, 첫 토큰 지연 시간(TTFT), 처리량, 속도 제한, 안정성, 응답…
