Chamadas domésticas de API de Modelo de Linguagem Grande estão lentas? Guia prático de 4 passos para testar a velocidade e identificar a latência transfronteiriça
Nota do autor: use curl e o SDK para cronometrar e decompor DNS, TLS, primeiro token e tempo total; em 4 passos, descubra se o gargalo ao chamar APIs de Modelos de Linguagem Grande a partir da China está no “link transfronteiriço” ou na “inferência do modelo”. “Por que a API está tão lenta?” Essa…
