La notizia, riportata da AFP, arriva in un momento in cui la domanda di inference e addestramento di LLM sta mettendo sotto pressione l’intera catena di fornitura hardware. Il dominio quasi incontrastato di Nvidia nel mercato degli acceleratori comincia a mostrare le prime crepe, e Google non propone solo un’alternativa tecnica con la sua famiglia di TPU (Tensor Processing Unit), ma un modello economico diverso: chip ottimizzati per carichi specifici, disponibili esclusivamente nel proprio cloud, a prezzi che mirano a erodere il vantaggio competitivo basato sul GPU computing generico.

Il corteggiamento dei cloud provider che oggi appoggiano le proprie infrastrutture su GPU Nvidia ha una posta in gioco chiara. Da un lato, chi adotta i TPU può differenziarsi offrendo costi di inference inferiori e prestazioni tagliate su misura per i carichi AI più diffusi, dai transformer ai modelli di embedding. Dall’altro, accetta un livello di lock-in significativo: i TPU non sono disponibili on-premise e vincolano l’intero stack a Google Cloud, dalle pipeline di training fino al serving. Per i provider cloud si apre quindi un calcolo delicato: rinunciare alla flessibilità delle GPU Nvidia, che permettono ai clienti di spostarsi tra ambienti diversi, in cambio di margini migliori e di una leva negoziale nei confronti del fornitore dominante.

Il tentativo di Google non è isolato. AWS spinge i chip Trainium e Inferentia, Microsoft lavora su Maia, e tutto il settore si sta frammentando attorno a silicio specializzato. Qui sta il vero significato strutturale della mossa: il mercato degli acceleratori AI si avvia a diventare multipolare, e il valore non sarà più misurato solo in teraflop o bandwidth di memoria, ma nella capacità di governare l’intero ciclo di vita del modello senza costi nascosti di uscita. Per le aziende che valutano deployment on-premise, questo scenario è un’arma a doppio taglio. Da un lato, la concorrenza potrebbe calmierare i prezzi delle GPU e accelerare l’innovazione, rendendo più accessibili server ad alte prestazioni per ambienti self-hosted. Dall’altro, la proliferazione di silicio custom cloud-only rischia di drenare l’ecosistema di strumenti e framework ottimizzati per il generico, creando un divario tra chi può permettersi di legarsi a un singolo fornitore e chi invece cerca portabilità e controllo diretto dei dati.

C’è poi un effetto di secondo ordine che tocca la sovranità dei dati. Se i TPU diventassero l’opzione più economica e performante per l’inference di modelli massicci, le imprese con requisiti stringenti di residenza dati potrebbero trovarsi di fronte a una scelta forzata: rinunciare ai benefici economici pur di mantenere i dati in house, oppure spostare carichi sensibili su cloud pubblico con tutte le conseguenze in termini di compliance. Non è un caso che le discussioni su AI sovrana e GDPR si stiano spostando proprio sul livello infrastrutturale.

La partita dei TPU, insomma, non è solo una questione di chip migliori: è il primo atto di una frammentazione strategica dell’infrastruttura AI, dove il vero nodo non saranno i teraflop, ma la libertà di scegliere dove far girare i propri modelli.