Низкая цена модели не означает низкий счёт: 5 шагов для расчёта реальной стоимости с учётом расхода токенов и кэширования
Примечание автора: сравнивая стоимость моделей только по цене за миллион токенов, легко ошибиться с выбором. В этой статье мы разберём формулу «цена × фактический расход токенов» и пошагово покажем, как проверить расчёты на небольшой выборке собственных задач. При выборе модели многие команды первым делом открывают прайс-лист: модель A стоит всего несколько десятых юаня за миллион…