OpenAI Menambahkan Prompt Cache 12 Jam: 5 Kriteria Penilaian untuk Menghemat Biaya Cache API GPT-6
Catatan penulis: Mengurai dampak Prompt Cache 12 jam dari OpenAI terhadap biaya GPT-6 API, menggunakan rumus titik impas dan 5 kriteria penilaian untuk menjelaskan skenario mana yang hemat biaya saat cache diaktifkan dan mana yang manfaatnya terbatas. OpenAI menambahkan kemampuan retensi cache 12 jam pada Prompt Cache, dan bagi tim yang memanggil GPT-6 API ini…
