Google Cloud amplia il portafoglio TPU di ottava generazione con due nuovi chip specializzati

Google Cloud ha annunciato l'ampliamento del proprio portafoglio di unità di elaborazione tensoriale di ottava generazione con il lancio dei sistemi TPU 8i Max e TPU 8tx. Le due nuove soluzioni si affiancano ai modelli TPU 8t e TPU 8i presentati all'inizio dell'anno, portando a quattro le varianti disponibili nel corso del medesimo anno solare e strutturando un'offerta hardware mirata a coprire l'intero ciclo di vita dell'intelligenza artificiale generativa.

Il sistema TPU 8tx introduce per la prima volta nella famiglia di acceleratori Google il supporto al confidential compute, integrando protocolli di sicurezza direttamente a livello hardware. La struttura permette di elaborare dati sensibili e di proteggere i pesi dei modelli isolandoli anche durante la fase di esecuzione, consentendo alle organizzazioni che operano in ambiti fortemente regolamentati di svolgere operazioni di fine-tuning e addestramento di agenti AI su informazioni private, garantendo al contempo una latenza fino a due volte inferiore rispetto al sistema TPU 8t.

Il modello TPU 8i Max è stato sviluppato per superare le limitazioni di memoria (il cosiddetto memory wall) riscontrate nella gestione di agenti AI complessi e finestre di contesto di grandi dimensioni. L'architettura unisce due chip TPU 8i a bassa latenza all'interno di un unico package, raddoppiando la densità di calcolo, la capacità di memoria SRAM e la larghezza di banda HBM rispetto alla versione base. Questo assetto incrementa la potenza di calcolo per unità di superficie e per watt consumato all'interno dei data center, mantenendo costanti le prestazioni anche sotto carichi di lavoro intensivi.

Sul fronte del software e dell'ecosistema di sviluppo, Google ha reso open source TPU Sync, un livello di gestione dello stato dei modelli per i cluster TPU che coordina memoria, storage e risorse di rete all'interno di un'unica gerarchia strutturata, riducendo di oltre il 90% la latenza nel trasferimento della cache KV ed il Time to First Token (TTFT). Parallelamente all'integrazione di TorchTPU per l'esecuzione nativa di codice PyTorch e modelli Hugging Face, l'azienda amplia la flessibilità per gli sviluppatori distribuendo in anteprima una suite open source di agenti per TPU integrabile con ambienti quali Cloud Code, Cursor e Google Antigravity.

Le novità presentate testimoniano l'accelerazione nello sviluppo delle infrastrutture proprietarie Google, realizzate in collaborazione con i team di DeepMind per rispondere alla crescente richiesta di capacità computazionale flessibile e altamente specializzata per il mercato enterprise.