Nuovi test dimostrano un significativo incremento delle performance per i Large Language Models (LLM) su hardware consumer. L'accoppiata tra una NVIDIA RTX 3090 da 24 GB di VRAM e i modelli Gemma 4, ottimizzati con Quantization-Aware Training (QAT) e Medusa-style Tree Attention (MTP), ha permesso di raggiungere velocità di inference fino a 80 token/s. Questo sviluppo rende i deployment on-premise di LLM avanzati più accessibili, ridefinendo le capacità delle GPU di fascia media per carichi di lavoro AI.
Le autorità finlandesi hanno identificato quattro sospetti nell'indagine sul danneggiamento di un cavo dati sottomarino, con il caso penale ora deferito ai pubblici ministeri. L'incidente sottolinea la vulnerabilità delle infrastrutture critiche e le implicazioni per la sovranità dei dati e la sicurezza dei deployment AI/LLM, spingendo le aziende a valutare soluzioni on-premise.
Oriole Networks, una startup britannica, propone di sostituire gli switch elettrici con soluzioni ottiche per le reti dei data center. L'obiettivo è risolvere i problemi di consumo energetico, calore e colli di bottiglia che limitano le performance dei sistemi AI. L'azienda dichiara un potenziale taglio dell'81% nei consumi della rete, un fattore cruciale per l'efficienza delle infrastrutture AI on-premise.
Il CEO di Nvidia, Jensen Huang, ha visitato la sede di Hyundai a Seoul per consolidare l'alleanza tra le due aziende. L'incontro ha evidenziato l'impegno congiunto nello sviluppo della robotica, con dimostrazioni pratiche di automazione per sicurezza e logistica. Questa partnership mira a esplorare nuove frontiere nell'integrazione tra intelligenza artificiale e sistemi robotici, un settore cruciale per l'innovazione on-premise.
Una discussione nella mailing list del kernel Linux evidenzia un dilemma comune: la gestione di codice legacy. Un driver di file system obsoleto e poco utilizzato, EFS, potrebbe ricevere un nuovo manutentore che però non lo impiega attivamente, o essere rimosso del tutto. La vicenda solleva interrogativi sulla stabilità e il TCO delle infrastrutture on-premise.
NewOrbit, produttore britannico di satelliti, ha ottenuto un finanziamento di Serie A da 18,5 milioni di dollari per accelerare la commercializzazione dell'orbita terrestre molto bassa (VLEO). Questa regione, tra 200 e 300 chilometri, offre vantaggi come immagini ad alta risoluzione e comunicazioni a bassa latenza. L'azienda ha sviluppato una tecnicia di propulsione proprietaria per superare le sfide ambientali del VLEO, puntando a osservazione terrestre e connettività satellitare.
Pechino sta investendo nell'orbital computing come strategia per affermarsi nella corsa globale all'intelligenza artificiale. Questa mossa suggerisce un interesse verso infrastrutture di calcolo distribuite e potenzialmente non convenzionali, con implicazioni per la sovranità dei dati e le architetture di deployment future, in contrasto con i modelli cloud o on-premise tradizionali.
A maggio, il Threat Intelligence Group di Google ha confermato il primo caso noto di un sistema AI che ha scoperto e trasformato in arma un exploit zero-day, poi utilizzato in rete. Un attore criminale ha sfruttato un "frontier model" per aggirare l'autenticazione a due fattori, creare un exploit funzionante e utilizzarlo prima che i difensori ne fossero a conoscenza. Questo evento solleva questioni cruciali sulla sicurezza dei sistemi AI e sulle implicazioni per la sovranità dei dati e le strategie di difesa on-premise.
Uneec ha annunciato il suo ingresso nel settore IT, concentrandosi sui rack a raffreddamento liquido per rispondere alla crescente domanda di infrastrutture AI. Questa mossa strategica sottolinea l'importanza di soluzioni di raffreddamento efficienti per i deployment on-premise di Large Language Models, dove la gestione del calore e la densità di calcolo sono cruciali per performance, TCO e sovranità dei dati.
Un consulente ha accidentalmente cancellato dati critici da un tool di gestione test basato su SaaS. Invece di ammettere l'errore, lo ha segnalato come un bug. Il cliente, dopo aver ripristinato i dati da backup, ha attribuito la colpa a un proprio script SaaS malfunzionante. L'episodio evidenzia le sfide legate alla sovranità dei dati e alla chiarezza delle responsabilità in architetture cloud e SaaS, temi centrali per chi valuta deployment on-premise.
Huawei Cloud si posiziona nella competizione per l'AI Agente, presentando il chip Ascend 950DT. L'iniziativa mira a supportare carichi di lavoro computazionali per la guida intelligente, con un'enfasi sul deployment in ambienti di cloud ibrido e sulla sicurezza dei dati. Questa strategia riflette la crescente domanda di soluzioni AI flessibili e controllate, cruciali per aziende che necessitano di bilanciare performance e sovranità dei dati.
Nvidia e LG Group hanno siglato una partnership estesa in Corea, focalizzata sullo sviluppo di soluzioni avanzate di intelligenza artificiale. La collaborazione abbraccia settori chiave come le "AI factory", la robotica e la guida autonoma, evidenziando un impegno congiunto verso l'innovazione tecnicica su larga scala e la costruzione di infrastrutture AI robuste, spesso con implicazioni per deployment on-premise e la sovranità dei dati.
Un nuovo approccio, DiBS (Diffusion-Informed Branch Selection), combina modelli di diffusione con risolutori simbolici per affrontare problemi di soddisfacimento dei vincoli come il Sudoku. Superando i limiti delle metodologie esistenti, DiBS riduce significativamente i costi di ricerca, offrendo garanzie di correttezza e migliorando l'efficienza su istanze complesse. Questo bilanciamento tra performance e prevedibilità è cruciale per le applicazioni AI in ambienti enterprise che richiedono controllo e sovranità dei dati.
Un recente test evidenzia come il modello Gemma 4.31B, ottimizzato con Quantization FP8, sia in grado di eguagliare le prestazioni di Sonnet 4.6 Medium in diverse attività complesse. Questo risultato, ottenuto in un ambiente locale, sottolinea il potenziale degli LLM efficienti per deployment on-premise, offrendo nuove opportunità per la sovranità dei dati e il controllo infrastrutturale, anche su hardware con risorse limitate.
Naver, in collaborazione con Nvidia, si appresta a costruire infrastrutture AI su scala gigawatt, segnando un'accelerazione significativa nella strategia della Corea del Sud per l'intelligenza artificiale sovrana. L'iniziativa sottolinea l'importanza crescente del controllo nazionale sui dati e sulle capacità di calcolo, spingendo verso deployment on-premise massivi per gestire carichi di lavoro LLM complessi e garantire la sovranità tecnicica.
Hitachi e Intel hanno formalizzato una collaborazione strategica per avanzare nello sviluppo dell'AI fisica e delle infrastrutture industriali. L'iniziativa mira a integrare capacità di intelligenza artificiale direttamente negli ambienti operativi, con implicazioni significative per settori come la produzione, la logistica e la gestione degli asset. Questa partnership sottolinea l'importanza di soluzioni AI robuste e localizzate per le esigenze del mondo industriale.
Nvidia e SK Telecom hanno annunciato una collaborazione strategica per la creazione di un'infrastruttura AI cloud di dimensioni considerevoli in Corea. L'iniziativa, che mira a supportare carichi di lavoro intensivi per l'intelligenza artificiale, sottolinea l'importanza di partnership tecniciche per lo sviluppo di capacità di calcolo avanzate, con implicazioni per la sovranità dei dati e l'efficienza energetica su larga scala.
Nvidia e Doosan ampliano la loro partnership, puntando a sviluppare soluzioni per la robotica e le infrastrutture AI in ambito industriale. Questa collaborazione evidenzia la crescente domanda di capacità di calcolo on-premise per carichi di lavoro AI complessi, come quelli richiesti dalle fabbriche intelligenti. Per le aziende, la scelta di architetture locali offre controllo sui dati e ottimizzazione del TCO, aspetti cruciali per l'adozione di sistemi robotici avanzati.
Anthropic ha introdotto Mythos, un nuovo strumento che promette di identificare un numero significativamente maggiore di vulnerabilità nei sistemi. Tuttavia, questa maggiore efficacia comporta un notevole incremento dei costi associati alle operazioni di scansione, ponendo le aziende di fronte a un trade-off tra sicurezza avanzata e gestione della spesa. La notizia solleva interrogativi cruciali per i responsabili IT e i CTO.
OpenAI si prepara a lanciare una "superapp" desktop che integrerà i modelli Codex, ChatGPT e Atlas. L'iniziativa, attesa nelle prossime settimane, segna un passo verso l'unificazione delle capacità AI su piattaforme locali. Per le aziende, l'evoluzione dei modelli e delle loro modalità di deployment, inclusi scenari on-premise, rimane un fattore critico per la sovranità dei dati e il Total Cost of Ownership (TCO).