Si chiama Inkling, ed è il primo modello a pesi aperti rilasciato da Thinking Machines. La notizia è comparsa ieri su Reddit e segna l’ingresso di un nuovo attore nel club dei fornitori di LLM che non chiudono i propri parametri sotto chiave. Non sono stati diffusi dettagli tecnici specifici, ma il solo fatto di pubblicare un modello con licenza permissiva dice molto sulla direzione che il settore sta prendendo.

Dopo la scossa di Llama di Meta, il mercato ha capito che gli open-weight non sono una mossa filantropica: sono una leva strategica. Permettono di costruire ecosistemi, attirare sviluppatori e, soprattutto, parlare a quella fetta di imprese che non vogliono mandare i propri dati in giro per API di terze parti. Inkling arriva in un momento in cui la domanda di inference locale è in piena espansione, spinta da regolamentazioni come il GDPR e da una crescente diffidenza verso i vendor lock-in.

Cosa significa, in concreto, un “modello a pesi aperti”? Che chiunque può scaricarlo, eseguirlo su un server proprio, fare fine-tuning con dataset interni e metterlo in produzione senza chiedere il permesso a nessuno. Per un’azienda che opera in settori regolamentati — finanza, sanità, difesa — questa non è una comodità: è un requisito. I dati rimangono all’interno del perimetro aziendale, il costo operativo diventa prevedibile (niente sorprese sulla bolletta cloud) e le performance possono essere ottimizzate per l’hardware disponibile.

Ma c’è un rovescio della medaglia. Self-hostare un LLM non è banale. Servono competenze di MLOps, una GPU con VRAM sufficiente e l’infrastruttura per scalare se l’inference diventa intensiva. Qui entra in gioco l’ecosistema dei framework di serving: vLLM, TGI, Ollama — strumenti che trasformano un modello grezzo in un servizio affidabile. AI-RADAR dedica da tempo risorse all’analisi di questi stack perché crediamo che la partita non si giochi tanto sul modello in sé, quanto sulla capacità di portarlo in produzione in modo efficiente e governato.

Il rilascio di Inkling segnala anche un’evoluzione del panorama competitivo. Se da un lato i modelli chiusi di OpenAI e Anthropic continuano a dominare le classifiche, dall’altro stiamo assistendo a una proliferazione di alternative open-weight che rendono la tecnicia accessibile senza canone mensile. Questo cambia gli incentivi per i fornitori di servizi cloud: invece di vendere API di inference, dovranno sempre più venderne l’hosting, in concorrenza con le soluzioni on-premise. Per i produttori di hardware, dai chip server di NVIDIA fino alle workstation professionali, è un mercato in crescita: più modelli open-weight significano più domanda di potenza di calcolo locale.

Chi perde? I vendor che basano il proprio business esclusivamente sull’inference come servizio a margine elevato rischiano di vedere eroso il vantaggio competitivo se i modelli aperti raggiungono prestazioni comparabili. E i team che sottovalutano la complessità del deployment rischiano di imbattersi in costi nascosti e colli di bottiglia hardware.

In definitiva, Inkling non è solo il primo modello di Thinking Machines: è un sintomo di una trasformazione più profonda. Sta emergendo un mercato parallelo in cui la sovranità dei dati e il controllo dell’infrastruttura valgono più della comodità del cloud. Resta da vedere se Thinking Machines riuscirà a costruire attorno a Inkling una comunità e un ecosistema sufficientemente solidi da competere con i big. Ma il segnale che arriva al settore è chiaro: il futuro dell’IA non sarà solo nel cloud di qualcun altro.