Due nuovi system-on-chip per il vertice della gamma Android, e un messaggio che va oltre la corsa ai benchmark. Qualcomm ha presentato Snapdragon 8 Elite Gen 6 e Elite Extreme Gen 6, dotati di core CPU Oryon, matrix core nella GPU e supporto LPDDR6. L'azienda non ha ancora diffuso i dati completi su memoria e consumi, ma la combinazione dice già molto: il lavoro di moltiplicazione matriciale, tipico degli LLM, viene portato dentro la GPU del SoC, mentre la memoria di nuova generazione punta a sostenere carichi di Inference locale senza passare dal cloud.

La tesi da seguire non è "più potenza". È che il confine della sovranità dei dati si sta spostando nella tasca degli utenti. Un telefono capace di eseguire LLM quantizzati in locale riduce la dipendenza dai round-trip verso server remoti. Per chi valuta deployment on-premise o edge, il punto non è soltanto la velocità: è la possibilità di mantenere dati sensibili sul dispositivo, con minori superfici di esposizione e, almeno in teoria, un TCO diverso da quello di un'API cloud per attività ripetute. I framework analitici che AI-RADAR propone su /llm-onpremise servono proprio a distinguere questi trade-off, evitando di ridurre tutto alla scheda tecnica.

Il nodo vero resta la memoria. LPDDR6 migliora la banda, ma l'annuncio non scioglie il vincolo di capacità massima: quanto grande può essere un modello da tenere residente senza intasare il sistema? In assenza di numeri, la variabile critica diventa la Quantization. Un modello FP16 in locale richiede molta più memoria di uno compresso a 4 o 8 bit; la qualità degrada, ma il vantaggio in privacy e latenza può restare. I core Oryon e i matrix core GPU non bastano da soli: servono anche driver e runtime che evitino colli di bottiglia tra CPU, GPU e NPU.

A livello strutturale, il messaggio per il mercato è chiaro. Apple e MediaTek non possono più trattare l'AI on-device come una feature marginale. Gli sviluppatori che progettano app per la privacy, gli ambienti air-gapped o i dispositivi aziendali potranno avere un margine maggiore per eseguire LLM in locale. Chi perde sono i servizi cloud per inferenze brevi e ripetitive, che rischiano di diventare un costo superfluo quando il dispositivo riesce a fare da solo. La partita, ora, non si gioca solo sugli smartphone: si gioca sul punto in cui il dato smette di uscire.