Questa categoria raccoglie aggiornamenti AI selezionati dalla redazione con attenzione a impatto pratico, implicazioni di deployment e collegamenti verso contenuti di riferimento. Sfoglia gli articoli piu recenti e usa i link interni per continuare l'analisi tra modelli, strumenti, hardware e dinamiche di mercato. Un buon punto di partenza e la pillar Trends.
Articoli su OnPremise
La dichiarazione di Xi Jinping trasforma la sovranità AI in una direttiva infrastrutturale: data center on-premise, hardware domestico, stack software adattato. Per l’ecosistema dell’inference locale, è un segnale che ridefinisce TCO, controllo e lezioni esportabili oltre la Cina.
L’autorità canadese rompe un tabù citando esplicitamente Claude di Anthropic in un alert alle banche. Non è più questione di ‘tecnicie emergenti’: la finestra per proteggersi si sta chiudendo, e la sovranità dei dati diventa l’unico argine. L’on-premise accelera, e con lui tutto l’ecosistema hardware e dei framework di serving.
Flash-MSA introduce kernel di attention sparsa che riducono drasticamente calcolo e memoria per l’addestramento di LLM su contesti fino a un milione di token. Per i deploy on-premise ciò significa poter addestrare modelli specializzati su dati interni con poche GPU server, abbassando il TCO e rafforzando la sovranità dei dati. L’analisi di AI-Radar esplora le implicazioni per l’hardware, il fine-tuning verticale, la filiera dei chip e la competitività delle organizzazioni che scelgono di non dipendere dal cloud.
Un test con un Qwen3.6 35B-A3B mostra che la quantization a 8 bit su CPU produce codice HTML complesso migliore della versione a 4 bit su GPU, nonostante la lentezza. L’esperimento accende un riflettore sul trade-off qualità-velocità, sul ruolo delle architetture MoE e sulla possibilità di usare server CPU ad alta densità di RAM per inference on-premise di LLM. Un segnale per chi cerca sovranità dei dati senza rinunciare alla fedeltà dell’output.
La cronica indisponibilità della scheda Nvidia H20, versione depotenziata per aggirare i controlli Usa, sta spingendo i buyer cinesi verso chipmaker locali come Biren e Cambricon. Più che una scelta tecnica, è una corsa alla sovranità dei dati e alla continuità operativa. L’analisi esplora i trade-off tra ecosistema software maturo e dipendenza geopolitica, il peso del divario con CUDA e le implicazioni per chi gestisce deployment on-premise di LLM, offrendo chiavi di lettura su un mercato AI che si avvia a una profonda biforcazione.
Horus Hiero è un LLM open source per tradurre geroglifici, disponibile in versione 9B e una Mini 4B ottimizzata per CPU e mobile. Supporta 150 lingue, input multimodale e una finestra di contesto fino a 1M token, permettendo l'inference on-premise a basso TCO. Rende l'analisi dei testi antichi autonoma sul campo, senza cloud, un passo concreto verso la sovranità dei dati culturali.
L’esperimento di un utente dimostra che un LLM da 27B quantizzato a Q8 può servire contesti fino a 115.000 token su una GPU consumer con 32 GB di VRAM, grazie alla quantization selettiva della cache chiave-valore. I compromessi tra memoria, velocità e qualità percepita aprono prospettive concrete per il deployment on-premise senza hardware enterprise, ma sollevano la necessità di valutazioni oggettive sulle prestazioni reali.