Qualche ora fa ho provato a noleggiare una bici Lime per andare in terapia. Ho aperto l’app, scansionato il QR e autorizzato Apple Pay. L’app è rimasta bloccata un attimo, poi si è chiusa. Ho riprovato più volte: stesso risultato. Nemmeno Uber riusciva a incassare. Solo DownDetector ha chiarito il framework: Apple Pay, che credevo vivesse soltanto nel telefono, è un servizio cloud ed era andato giù. Niente bici, sono andato di corsa.

Il singolo disservizio è banale. Il modo in cui la mente cerca una causa — telefono rotto, rete assente, servizio cloud, attacco — è lo stesso schema che amici e colleghi applicano da settimane a qualsiasi sistema che crolla: aerei, banche, Microsoft. La risposta più frequente è “ci stanno attaccando” oppure “è l’IA impazzita”. Ma la spiegazione è più scomoda: le infrastrutture digitali stanno mostrando una fragilità strutturale, non una serie di attacchi coordinati. Persino un attacco informatico alla Federazione internazionale di hockey su ghiaccio, che di norma non farebbe notizia, entra nella stessa narrazione.

Negli ultimi anni si sono sommati licenziamenti di massa tra sviluppatori e tecnici, riduzione drastica della supervisione pubblica, perdita di conoscenza istituzionale, mancato investimento in ridondanza e manutenzione, e una corsa ad automatizzare con LLM e codice generato. A questo si aggiunge la scoperta e lo sfruttamento delle vulnerabilità assistiti da LLM, che costringono le aziende a distribuire patch in fretta, spesso su sistemi vivi. L’NSA ha parlato di degrado temporaneo durante manutenzione di routine; la CISA invoca più resilienza. Ma la resilienza richiede persone che capiscano come i sistemi possono fallire.

L’exploit PHP2Shell, individuato con l’aiuto di LLM, ha fatto cadere siti mentre gli operatori cercavano di aggiornare più velocemente del solito. Calif ha annunciato vulnerabilità gravi in Java, trovate ancora con LLM. Il tempo tra scoperta e sfruttamento si è ridotto e la risposta è spesso una patch affrettata su infrastrutture di produzione, compreso il controllo del traffico aereo.

Quando Elon Musk ha preso Twitter e lo ha chiamato X, in molti si aspettavano un collasso per perdita di competenze. Non è accaduto nel modo previsto, ma quella filosofia — licenziare gli esperti e sperare che l’IA tappi i buchi — è diventata la strategia esplicita di parte dell’economia e del governo. Il risultato non è un unico incidente, ma un flusso continuo di guasti che restano isolati solo fino a quando qualcuno non li collega.

Il punto non è se l’IA sia colpevole. Molti guasti non c’entrano con l’IA. Il punto è la perdita di controllo e comprensione dei sistemi complessi. Jimmy Breck-McKye descrive ingegneri che non riescono più a risolvere problemi senza assistenza IA, non per incompetenza ma per complessità: un’onda di codice generato produce modifiche piccole e incoerenti, razionali nel singolo ma insensate nell’insieme. È la stessa dinamica che porta a una nave di Teseo in cui ogni pezzo viene sostituito senza che qualcuno veda più la struttura.

Per chi gestisce stack locali o valuta deployment self-hosted, questa storia non è solo un problema di cloud. Apple Pay smette di funzionare perché la sua infrastruttura è lontana dall’utente, ma il guasto non è il cloud in sé: è la dipendenza da componenti che nessuno, dentro l’organizzazione, sa più leggere e riparare. La ridondanza non si attiva con un abbonamento. Serve il contrario: controllo locale, persone capaci di diagnosticare, e la consapevolezza che l’IA accelera sia la scoperta dei bug sia la produzione di patch fragili. Chi segue AI-RADAR sa che su /llm-onpremise ci sono framework analitici per valutare questi trade-off tra TCO, sovranità e controllo.

Non è necessario immaginare un attacco informatico coordinato per spiegare il disordine. Basta accettare che stiamo sostituendo pezzi dell’economia e delle infrastrutture senza capire più come funzionano nel loro insieme. E, per ora, dobbiamo continuare ad aspettarci che le cose vadano male.