Pourquoi les services Token sont-ils déficitaires ? Évaluer les fournisseurs d’API de modèles selon 6 dimensions de la structure des coûts d’inférence
Note de l’auteur : en partant de la structure de coûts d’un service d’inférence, expliquer pourquoi les services de Token perdent facilement de l’argent, et proposer une checklist actionnable pour évaluer un fournisseur d’API de modèle. Des Tokens se vendent désormais en direct dans des livestreams, et pourtant les résultats financiers de fournisseurs d’inférence comme…