L’ultima presa di posizione di Anthropic sull’intelligenza artificiale è arrivata accompagnata da un’ondata di reazioni tecniche, ma una in particolare fotografa un movimento più ampio. Su Reddit, un utente ha liquidato il documento con un secco «Comunque, torno ai miei modelli locali». Non è solo sarcasmo: è la spia di una frattura sempre più netta fra l’evoluzione dei modelli di frontiera, blindati nei cloud di pochi grandi vendor, e la spinta concreta di aziende e sviluppatori a riappropriarsi dell’inference.

Il POV di Anthropic – acronimo di “Point of View” – è un manifesto sulla sicurezza, sull’allineamento e sulla necessità di modelli sempre più grandi, addestrati con risorse computazionali fuori dalla portata della stragrande maggioranza delle organizzazioni. Eppure, mentre il documento ribadisce la centralità del controllo centralizzato, il mondo reale si muove in direzione opposta: LLM come Llama, Mistral e Qwen corrono su GPU aziendali, su server in sede, su workstation che non escono mai dalla rete locale. È il ritorno al “locale” che sfida la narrativa dominante.

Perché i modelli locali attirano anche dopo una POV

di frontiera

Chi sceglie il self-hosted non lo fa per nostalgia del ferro. Ci sono almeno tre leve che spingono l’on-premise: la sovranità dei dati, il Total Cost of Ownership e la prevedibilità operativa. Quando i dati sensibili – cartelle cliniche, transazioni finanziarie, proprietà intellettuale – non possono varcare il perimetro aziendale, l’inference in cloud diventa un rischio di compliance impossibile da accettare. Il GDPR e normative simili non fanno sconti, e tenere tutto on-premise è spesso l’unica strada percorribile senza dover riprogettare interi processi.

Poi ci sono i costi. L’inference su modelli di frontiera ha una tariffazione a token che, con volumi elevati, porta il TCO su cifre insostenibili. Un cluster di GPU in sede, ammortizzato su tre o cinque anni e ottimizzato con quantization e batching, può offrire throughput comparabile a costi operativi prevedibili, senza l’incubo di bollette a sorpresa. Infine, la latenza e l’indipendenza dalla connettività: in ambienti industriali, edge o air-gapped, contare su una API remota non è un’opzione.

Il nodo hardware e i compromessi silenziosi

La fuga verso il locale si scontra con la realtà dell’hardware. Portare un LLM in casa significa fare i conti con la VRAM necessaria, con i livelli di quantization che mantengano una qualità accettabile e con una pipeline di serving che richiede competenze non banali. Framework come vLLM, llama.cpp e Ollama hanno abbassato la barriera, ma la scelta di una scheda – da una RTX 4090 con 24 GB a workstation multi-GPU con NVLink – determina la finestra di contesto e i token al secondo possibili. Non esiste la configurazione “migliore”: ogni deployment è un equilibrio tra costi di capitale, consumi energetici e prestazioni.

Ed è proprio in questa zona grigia che si inserisce l’analisi che portiamo avanti su AI-RADAR. Per chi valuta un deployment on-premise, la decisione non è solo tecnica ma architetturale: coinvolge calcoli di TCO, esigenze di audit e la cosiddetta “data gravity” che rende più economico portare il modello ai dati piuttosto che il contrario. Le aziende che affrontano questo bivio non trovano risposte nei documenti di visione, ma in framework pragmatici che confrontano CapEx e OpEx, che misurano l’impatto della quantization sulla qualità e che aiutano a scegliere tra full on-premise e un approccio ibrido.

La POV di Anthropic continuerà a ispirare la ricerca sulla sicurezza dell’IA. Tuttavia il gesto di chi torna ai propri modelli locali non è un rifiuto del progresso, ma il riconoscimento che il futuro dell’adozione aziendale sarà ibrido, distribuito e spesso lontano dai riflettori delle grandi API. In quel ritorno al ferro, c’è una domanda di controllo che nessun modello centralizzato può soddisfare.