L'ironia è perfetta: i Large Language Models che hanno reso possibile la produzione di spam su scala industriale diventano ora lo strumento per smascherarlo. Reddit ha confermato di utilizzare LLM per contrastare l'ondata di contenuti sintetici che invade forum e subreddit, chiudendo il cerchio di una dinamica in cui chi genera il problema è anche il fornitore della soluzione.

Dietro questa scelta non c'è solo pragmatismo. La natura stessa dello spam moderno è cambiata: non si tratta più di messaggi pieni di errori grammaticali o link sospetti, ma di testi coerenti, ben argomentati e quasi indistinguibili da un contributo umano. I filtri lessicali tradizionali — blacklist, regole euristiche, analisi di pattern — falliscono di fronte a un avversario capace di adattarsi in un secondo. L'unica difesa apparente è un altro LLM, addestrato a riconoscere le sottili tracce statistiche che differenziano una risposta genuina da una costruita artificialmente.

Ma questa corsa agli armamenti nasconde una trappola strutturale. Migliori sono gli LLM nel generare contenuti, più difficile diventa distinguerli. E più le piattaforme investono in rilevamento, più i generatori si affinano per eluderlo. È un gioco a somma zero che consuma risorse computazionali crescenti, senza mai raggiungere una vittoria definitiva. Chi ne beneficia? I fornitori degli stessi LLM, che vendono sia i modelli generativi sia quelli di rilevamento, trasformando il problema in una rendita tecnicica.

Per piattaforme come Reddit, dove il valore risiede nella conversazione organica e nella fiducia degli utenti, l'impatto è profondo. Ogni falso positivo — un contributo umano scambiato per spam — erode il senso di comunità; ogni falso negativo lascia passare disinformazione o propaganda. La decisione di affidarsi a un LLM per la moderazione non è neutrale: introduce un bias di sistema, un giudizio statistico che può penalizzare stili di scrittura atipici o argomenti di nicchia. E solleva il dubbio se, a lungo termine, l'intera architettura della discussione pubblica online stia diventando un dialogo tra macchine, con gli umani come spettatori marginali.

Sul fronte tecnico, l'impiego di LLM in fase di moderazione pone interrogativi concreti per chi valuta deployment on-premise. La latenza e i costi dell'inference su larga scala spingono molte piattaforme verso il cloud, ma la natura dei dati — conversazioni spesso sensibili — richiama esigenze di sovranità e controllo. Modelli di rilevamento eseguiti localmente potrebbero offrire garanzie di privacy, ma al prezzo di una potenza di calcolo che non tutte le realtà possono sostenere. È un trade-off che AI-RADAR segue da vicino, mappando le soluzioni che consentono di mantenere il filtro vicino ai dati senza cedere in efficacia.

Reddit non è un caso isolato. La stessa dinamica si ripete su ogni grande piattaforma: email, social network, recensioni online. L'LLM è diventato l'unica risposta possibile a un ecosistema in cui il 90% dei contenuti testuali potrebbe presto essere sintetico. Ma è una risposta che non risolve il problema a monte: la mancanza di metodi robusti per certificare l'origine umana di un testo. Finché l'autenticazione rimarrà debole, il combattimento sarà solo una battaglia di retroguardia combattuta con le stesse armi del nemico.