Non bastava la penuria di silicio. La crescita esplosiva della domanda di chip dedicati all’intelligenza artificiale – GPU, acceleratori e componenti custom – sta ora intasando le rotte globali del trasporto merci. Le spedizioni aeree e marittime registrano una carenza di stiva e un aumento dei noli, effetto diretto di una corsa all’hardware che non accenna a frenare.

L’origine della congestione

Le architetture per training e inference di Large Language Models si reggono su componenti ad alta densità e alto valore. Una singola scheda come una NVIDIA H100 (o la sua declinazione per il mercato cinese) occupa spazio, richiede imballi antistatici e viene spesso spedita in lotti urgenti. Quando interi datacenter on-premise, dai centri di ricerca alle medie imprese, accumulano ordini per centinaia di unità, l’impatto sulle capacità di carico aereo è immediato.

Le rotte marittime, tradizionalmente usate per i volumi più grandi, soffrono per l’effetto combinato di container di elettronica di fascia alta e della deviazione di capacità verso merci meno pregiate ma più ingombranti. Il risultato è un rialzo dei prezzi di trasporto che, a sua volta, entra nella voce «costi di acquisizione» dell’infrastruttura.

Il peso sul total cost of ownership on-premise

Per chi valuta un deployment self-hosted di LLM, il TCO è un esercizio complesso. Finora si guardava soprattutto a voci come il costo per GPU, il consumo energetico, la refrigerazione e la manutenzione. Ora la quota logistica diventa un moltiplicatore silenzioso: un cluster da 8 GPU può subire un aggravio di centinaia di euro in spedizione, che su centinaia di nodi si trasforma in una voce a sei cifre.

In più, i tempi di transito si allungano. Un ritardo di due settimane nella consegna può posporre una fase di fine-tuning o l’avvio di un servizio di inference aziendale, con effetti a cascata sui piani di adozione. Questo introduce un rischio operativo che i team IT raramente prezzano in anticipo.

Sovranità e controllo: la molla che non si ferma

Nonostante gli ostacoli, la scelta on-premise rimane strategica per una fetta crescente di organizzazioni. Le ragioni affondano nella sovranità dei dati – soprattutto in settori regolamentati come finanza, sanità e pubblica amministrazione – e nella necessità di mantenere il controllo pieno su modelli e pipeline. Nessun rincaro dei noli modifica questa esigenza di fondo.

Semmai, lo scenario attuale spinge a rivedere i flussi di approvvigionamento: diversificare i canali, valutare l’acquisto di batch pre-configurati e, dove possibile, stringere accordi framework con i fornitori per bloccare le tariffe di trasporto. Tutto questo mentre la tecnicia di quantization e compressione dei modelli riduce la necessità di VRAM, permettendo in alcuni casi di optare per hardware meno esigente e più facile da spedire.

Pianificare in tempi incerti

Le imprese che oggi pianificano un investimento on-premise dovranno allargare il raggio della loro analisi. Oltre ai benchmark di throughput, alla latenza di inference e ai vincoli di sicurezza, dovranno modellizzare la variabile logistica. Significa costruire scenari di TCO che includano il costo del trasporto come voce variabile, magari legata a un indice spot dei noli.

Per chi ha già infrastrutture installate, il consiglio non detto è di trasformare la difficoltà in una leva di efficienza: ottimizzare i carichi di lavoro con tecniche di inference distribuita, sfruttare meglio i cluster esistenti e valutare l’adozione di modelli con finestra di contesto ridotta per ridurre il footprint hardware. L’innovazione logistica, insomma, diventa un capitolo della strategia AI.