La frustrazione che emerge dalla community tecnica è chiara: il Mac M5 Ultra con 256 GB di memoria unificata è sul mercato, ma chi cerca numeri credibili per valutare la piattaforma Apple contro i flussi di lavoro basati su GPU Nvidia trova solo video di influencer che testano modelli da 8 miliardi di parametri. Non è una lamentele fine a se stessa: è il sintomo di un vuoto informativo che ha conseguenze concrete per chi valuta deployment on-premise di LLM.

Apple ha costruito una macchina con una quantità di VRAM condivisa che non ha equivalenti diretti nel mondo delle workstation Nvidia allo stesso prezzo. La promessa è quella di eseguire modelli di grandi dimensioni in locale, senza dover ricorrere a cluster cloud o a GPU multiple collegate via NVLink. Ma la promessa, da sola, non basta: servono misurazioni ripetibili su inference, throughput, latenza, comportamento con diversi livelli di quantization e, soprattutto, con modelli che superino la soglia dei 10-20 miliardi di parametri. I test con modelli da 8b, spesso eseguiti in condizioni non controllate e senza report di configurazione, non permettono di stimare il Total Cost of Ownership reale né di confrontare l’architettura unificata di Apple con l’ecosistema CUDA, che dispone di anni di benchmark consolidati.

Il nodo non è solo tecnico, ma di incentivi. I creatori di contenuti hanno interesse a produrre video rapidi e spettacolari, non a eseguire suite di benchmark stancanti che richiedono settimane di lavoro. Le aziende che potrebbero finanziare test indipendenti, dal canto loro, tendono a concentrarsi su hardware già adottato nei data center, dove Nvidia domina. Il risultato è un circolo vizioso: Apple silicon non viene preso sul serio perché mancano benchmark, e i benchmark seri non arrivano perché il mercato non percepisce Apple silicon come una piattaforma per carichi di lavoro enterprise.

Questo ha implicazioni di secondo ordine per chi ragiona in ottica di sovranità dei dati e controllo locale. Un’organizzazione che volesse mantenere i propri LLM self-hosted su hardware Apple avrebbe bisogno di dati affidabili per giustificare l’investimento Capex davanti al CFO o al CISO. Senza numeri, la scelta ricade quasi automaticamente su soluzioni Nvidia, non perché siano oggettivamente superiori in ogni scenario, ma perché il rischio percepito è inferiore. In altre parole, l’assenza di benchmark penalizza la diversificazione dell’offerta hardware per l’inference locale, consolidando ulteriormente la posizione di Nvidia.

C’è anche un aspetto legato alla natura stessa dell’ecosistema Apple. Il framework Metal e le librerie come MLX stanno migliorando, ma restano lontani dalla maturità di CUDA in termini di strumenti, profiler e supporto per ottimizzazioni avanzate. Questo non significa che il Mac M5 Ultra non possa essere una macchina interessante per determinati carichi; significa che, finché non emergeranno test indipendenti su modelli da 30-70 miliardi di parametri con quantization INT8 o FP16 e metriche di tokens/sec stabili, il dibattito resterà dominato da impressioni piuttosto che da evidenze.

Per chi valuta deployment on-premise, il consiglio implicito non è di ignorare la piattaforma, ma di trattare l’assenza di dati come un segnale di rischio. Esistono framework analitici — come quelli discussi su AI-RADAR nella sezione dedicata ai trade-off tra cloud e on-premise — che aiutano a strutturare la valutazione senza affidarsi a demo promozionali. Ma la responsabilità di colmare il vuoto informativo non può ricadere solo sugli acquirenti: servirebbe una cultura del benchmark più seria, indipendente e ripetibile, capace di trattare l’hardware Apple con lo stesso rigore riservato alle GPU Nvidia.

Il Mac M5 Ultra da 256 GB ha il potenziale per spostare alcuni carichi di inference dal cloud ai desktop o ai piccoli server locali, ma finché i numeri mancheranno, quel potenziale resterà una scommessa non verificata. E in un mercato dove ogni euro di Capex deve essere giustificato, una scommessa non verificata è spesso una scommessa persa.