La mattina del 2019, in una stanza d’albergo di Città del Capo, Adebayo Alonge si preparava a mostrare la soluzione della sua startup a un problema sanitario africano: i farmaci contraffatti, che uccidono migliaia di persone ogni anno. Lo Rxscanner, uno spettrometro portatile, illuminava una pillola con luce infrarossa, inviava il profilo molecolare a un modello AI ospitato in un data center negli Stati Uniti e attendeva il verdetto. Quel giorno la connessione era lentissima: “Per una singola scansione ci volevano oltre cinque minuti”, racconta Alonge. La demo rischiava di fallire.

La squadra ingegneristica reagì in due ore: ridusse il modello AI abbastanza da farlo girare interamente sul telefono Android di Alonge, senza alcuna dipendenza dal cloud. Funzionò, e quell’emergenza partorì una versione del dispositivo che oggi autentica pillole in ogni angolo del pianeta, anche senza banda larga, computer o elettricità affidabile. Era nata, nella pratica, quella che oggi chiamano “small AI”.

La potenza del “bastano pochi watt”

Non è un caso isolato. In India, un sistema a bordo di droni fotografa piante di anacardi e identifica le macchie delle malattie: tutta l’elaborazione avviene a bordo, zero server remoti. In Uruguay un modello compatto individua infestazioni di formiche nei vigneti. In Brasile un elettrocardiogramma gira su un Arduino in comunità dove un ospedale è un miraggio. “È la frontiera più importante dell’intelligenza artificiale oggi”, afferma Marcelo José Rovai, professore all’Università Federale di Itajubá, che ha contribuito a diversi di questi progetti. “Cresce velocissima.”

Al cuore della “small AI” c’è un cambio di paradigma: modelli con al massimo qualche miliardo di parametri, ottenuti per potatura, distillazione o quantization di modelli più grandi, capaci di girare su dispositivi che consumano pochi watt. Il nuovo Arduino UNO-Q, con chipset Qualcomm e un costo di circa 50 dollari, riesce a far funzionare un modello linguistico che analizza dati da sensori per rilevare pozze d’acqua dove le zanzare potrebbero proliferare: tutto con 3 watt.

Non è carità tecnicica. È una necessità dettata da vincoli reali: secondo la Banca Mondiale, nei paesi più poveri solo lo 0,7% degli utenti internet ha mai usato ChatGPT, contro un quarto nei paesi ad alto reddito. “Discutiamo di LLM e AI generativa, ma quella richiede potenza di calcolo, elettricità, enormi quantità di dati e personale specializzato”, ha ricordato il presidente della Banca Mondiale Ajay Banga a Davos. “Fuori dal mondo sviluppato, pochissimi paesi hanno questa combinazione.”

Oltre il divario: quando il locale conviene

Il fenomeno va però ben oltre l’accesso nei paesi in via di sviluppo. La spinta verso modelli che girano interamente su dispositivo — senza mai uscire dalla macchina su cui operano — parla la lingua della sovranità dei dati, del controllo granulare e del costo totale di possesso (TCO). Per un’azienda che gestisce dati sanitari, legali o industriali sensibili, poter eseguire inference in locale senza passare da un cloud esterno significa ridurre la superficie d’attacco, rimanere conformi alle normative (dal GDPR in su) e tagliare i costi operativi delle chiamate API su larga scala.

L’hardware sta facendo la sua parte. Nel 2025 un terzo degli smartphone spediti nel mondo era già capace di eseguire AI generativa grazie alle NPU (unità di elaborazione neurale) integrate; entro fine anno la quota salirà al 45 percento, secondo Counterpoint, e l’anno prossimo la maggioranza dei telefoni sarà “AI-ready”. Non serve un data center iperscalare. E i modelli open-weight come Gemma 4 di Google DeepMind o Qwen 3.5 di Alibaba permettono di riaddestrare e adattare il modello su dati specifici — ad esempio dell’industria lattiero-casearia — creando strumenti verticali che girano su hardware modesto.

Questo spostamento non cancella i modelli giganti. Servono ancora per distillare gli “studenti” compatti e per far avanzare la ricerca. Ma segnala una biforcazione strutturale: da un lato l’AI dei colossi, centralizzata e costosissima, accessibile a pochi; dall’altro un ecosistema di modelli specializzati, economici e privati, che cresce ai margini della rete. “Il futuro dell’AI non è un modello gigante al centro, ma milioni di modelli piccoli e precisi distribuiti ovunque, ciascuno per un problema specifico”, sostiene Alonge.

Il nodo rimane l’infrastruttura di base: elettricità stabile, catene di approvvigionamento funzionanti, talenti formati. Lo stesso scanner farmaceutico, per quanto autonomo per giorni, ha bisogno di sincronizzarsi periodicamente per aggiornare le firme molecolari. “Anche quando usi batterie, l’alimentazione affidabile è essenziale. Quella batteria non durerà per sempre”, ricorda Alonge. La politica dovrà decidere se investire per sostenere questo ecosistema nel lungo periodo. Ma la direzione è segnata: l’AI che toccherà più vite sarà quella che saprà funzionare in silenzio, a bordo macchina, lontana dai riflettori dei mega-datacenter.