L’invocation des API de grands modèles de langage est-elle lente en Chine ? Guide pratique en 4 étapes pour mesurer la vitesse et localiser la latence transfrontalière
Note de l’auteur : utiliser curl et le SDK pour chronométrer séparément le DNS, le TLS, le premier token et la durée totale, puis déterminer en 4 étapes si le goulot d’étranglement d’un appel à une API de grand modèle depuis la Chine se situe au niveau du « lien transfrontalier » ou de «…
