Агентный инференс с длинным контекстом упирается в стену памяти: 6 ключевых выводов о расширении пропускной способности памяти за счёт двухчиповой компоновки TPU 8i Max
9 ноября 2026 года Google Cloud представила две новые конфигурации систем на TPU восьмого поколения: TPU 8tx и TPU 8i Max. В TPU 8i Max два чипа TPU 8i объединены в одном корпусе: вычислительная мощность, встроенная SRAM и пропускная способность HBM увеличены вдвое. Система рассчитана на обработку длинного контекста, высокую параллельную нагрузку и совместную работу…