«Le aziende hanno smesso di affittare l’intelligenza artificiale». La frase, netta, arriva da Clem Delangue, CEO di Hugging Face, la piattaforma che in pochi anni è diventata una sorta di GitHub per l’AI: un luogo dove sviluppatori e imprese condividono e scaricano modelli e dataset aperti, oggi utilizzato da circa la metà delle aziende della Fortune 500.

Il fenomeno che Delangue descrive non è un semplice cambio di fornitore, ma una riconfigurazione profonda del rapporto tra impresa e tecnicia. Dopo una prima fase in cui la corsa all’AI passava quasi esclusivamente attraverso API cloud – da OpenAI ad Anthropic – il pendolo sta tornando verso il controllo diretto. I modelli open source, spesso sottoposti a fine-tuning o ottimizzati internamente, girano su hardware di proprietà o in ambienti dedicati, ridisegnando costi e responsabilità.

In Europa, la spinta è ancora più forte: la regolamentazione sulla protezione dei dati, con il GDPR e il crescente scetticismo verso trasferimenti transfrontalieri, rende l’inference on-premise una leva di conformità quasi obbligata per settori come finanza, sanità e pubblica amministrazione.

Portare un LLM in produzione su infrastruttura propria, però, significa scendere a patti con la realtà fisica. La GPU, la VRAM, la bandwidth di memoria diventano vincoli di primo ordine. Senza contare la necessità di strumenti di serving efficienti – dai framework come vLLM o TGI fino alle tecniche di quantization per ridurre il footprint senza sacrificare troppo la qualità. L’equazione del TCO si fa complessa, bilanciando investimenti iniziali e costi operativi di energia e raffreddamento.

La piattaforma di Hugging Face non è solo un catalogo di modelli, ma un abilitatore di questo passaggio: offre librerie, endpoint privati e strumenti per il fine-tuning che permettono anche a team non specializzati di gestire modelli senza delegare a terzi. E il dato sulla Fortune 500 dice che i grandi gruppi stanno già cogliendo l’opportunità.

Il messaggio di Delangue è chiaro: affittare AI è stato il primo passo, ma per le organizzazioni che vogliono mantenere il controllo strategico, l’open source self-hosted rappresenta lo stadio successivo. Non senza sfide: la manutenzione del modello, gli aggiornamenti, la sicurezza del pipeline e la necessità di competenze interne restano ostacoli reali.

Per chi valuta il salto dall’API al server locale, il trade-off non è solo economico ma sistemico. Mappare le variabili in gioco – dalla scelta della GPU alla latenza, fino alla conformità normativa – richiede una visione d’insieme che strumenti analitici dedicati, come quelli offerti da AI-RADAR su /llm-onpremise, possono aiutare a strutturare senza semplificare eccessivamente.