Langkontext-Inferenz für Agenten stößt an die Speicherwand: 6 wichtige Erkenntnisse dazu, wie das Dual-Chip-Gehäuse des TPU 8i Max die Speicherbandbreite erweitert
Am 9. November 2026 veröffentlichte Google Cloud zwei neue Systemkonfigurationen der achten TPU-Generation: TPU 8tx und TPU 8i Max. TPU 8i Max vereint zwei TPU-8i-Chips in einem Gehäuse. Rechenleistung, On-Chip-SRAM und HBM-Bandbreite verdoppeln sich gleichzeitig. Das System ist für Szenarien mit langen Kontexten, hoher Parallelität und dem Zusammenspiel mehrerer Agenten bei der Inferenz ausgelegt. Das…