Con una mossa che ridefinisce la mappa della disponibilità dei modelli aperti, Tencent ha rilasciato il LLM Hy3 sotto licenza Apache 2.0, rendendolo utilizzabile anche in quelle regioni che fino a ieri erano esplicitamente escluse. La raccolta è disponibile su HuggingFace e segna un netto distacco dalla precedente licenza comunitaria, che vietava l’impiego in Corea del Sud, Regno Unito e Unione Europea.

Hy3 è un modello massiccio: 295 miliardi di parametri complessivi, ma solo 21 miliardi attivi per ogni token generato, cifra che rivela un’architettura mixture-of-experts (MoE). Questo design, già familiare a chi segue i modelli aperti di grandi dimensioni, permette di mantenere costi di inference contenuti pur conservando una conoscenza molto ampia nei parametri totali. Sul fronte hardware, il dato dei 21 miliardi attivi suggerisce che l’inference possa essere gestita con GPU di fascia alta senza ricorrere a cluster estesi, sebbene l’intero modello richieda una quantità di VRAM sufficiente a ospitare tutti gli esperti, e quindi resti un carico non banale per deployment interamente on-premise. Tecniche come la quantization possono ridurre l’impronta, ma il trade-off tra qualità e requisiti hardware resta centrale.

Il vero punto di svolta è la licenza. Il passaggio ad Apache 2.0 cancella le restrizioni geografiche che tenevano fuori il mercato europeo e britannico. Per le imprese soggette a GDPR e con esigenze di sovranità dei dati, questo significa poter valutare Hy3 in scenari self-hosted o air-gapped senza incorrere in violazioni contrattuali. L’apertura della licenza, inoltre, colloca il modello nel solco di una tendenza più ampia: anche i grandi vendor cinesi iniziano a rilasciare pesi con licenze permissive, riducendo la dipendenza da forniture cloud esterne e allargando le opzioni per chi costruisce stack locali di inference.

Chi sta progettando un deployment on-premise sa che la scelta del modello è solo un tassello di un puzzle che include hardware, serving framework e costi di gestione. La disponibilità di un LLM con un footprint attivo relativamente contenuto e una licenza senza vincoli geografici cambia i contorni del problema: rimangono le sfide ingegneristiche, ma cade l’incertezza legale che per molte aziende europee rappresentava uno stop preventivo. Su AI-RADAR le valutazioni sui trade-off dei modelli aperti in contesti on-premise vengono approfondite con analisi dedicate, proprio per supportare decisioni in scenari come questo.