OpenAI ajoute un cache d’invites de 12 heures : 5 critères pour économiser avec le cache de l’API GPT-6
Note de l’auteur : décryptage de l’impact du Prompt Cache de 12 heures d’OpenAI sur les coûts de l’API GPT-6, avec une formule de rentabilité et 5 critères pour déterminer dans quels scénarios activer le cache permet d’économiser, et dans lesquels les gains restent limités. OpenAI ajoute une capacité de rétention du cache de 12…
