Inferensi konteks panjang Agent menabrak dinding memori: 6 poin penting tentang perluasan bandwidth memori dengan kemasan dua chip TPU 8i Max
9 November 2026, Google Cloud merilis dua konfigurasi sistem baru untuk TPU generasi kedelapan: TPU 8tx dan TPU 8i Max. TPU 8i Max mengintegrasikan dua TPU 8i dalam satu kemasan. Kapasitas komputasi, SRAM on-chip, dan bandwidth HBM meningkat dua kali lipat. Sistem ini ditujukan untuk skenario dengan konteks panjang, konkurensi tinggi, dan penalaran kolaboratif oleh…