Jangan buru-buru ganti model saat kena 429: 3 langkah menentukan dari mana pembatasan laju berasal, serta 5 konfigurasi untuk backoff dan failover
Catatan penulis: Saat menemui 429, tidak perlu langsung mengganti model. Artikel ini memakai 3 langkah pemeriksaan untuk menentukan apakah pembatasan laju berasal dari penyedia upstream, gateway, atau paket gratis, sekaligus memberikan cara konfigurasi exponential backoff, Retry-After, dan failover. Saat menjalankan tugas batch tengah malam, log tiba-tiba membanjir dengan 429 Too Many Requests, dan reaksi pertama…