Sélection de grands modèles

Note de l’auteur : de l’entrée à la sortie, en passant par l’inférence, le cache, les nouvelles tentatives et la montée en gamme de la vérification, sept étapes pour convertir « combien coûte un million de tokens » en « combien coûte une tâche menée à bien ». Beaucoup d’équipes choisissent un modèle en jetant…