Bei 429 nicht sofort das Modell wechseln: In 3 Schritten ermitteln, woher die Ratenbegrenzung stammt, sowie 5 Konfigurationen für Backoff und Failover
Anmerkung des Autors: Bei einem 429 müssen Sie nicht sofort das Modell wechseln. Dieser Artikel zeigt in 3 Prüfschritten, ob das Rate-Limit vom Upstream-Anbieter, vom Gateway oder vom Free-Tier kommt, und gibt Konfigurationstipps für exponentielles Backoff, Retry-After und Failover. Bei nächtlichen Batch-Jobs erscheint im Log plötzlich eine Bildschirmseite voller 429 Too Many Requests. Viele denken…