📁 LLM

IBM ha annunciato la nuova famiglia di Large Language Models Granite 4.1, disponibile in versioni da 3, 8 e 30 miliardi di parametri. Questi modelli offrono alle aziende opzioni flessibili per il deployment di LLM, bilanciando requisiti di performance, risorse infrastrutturali e considerazioni sulla sovranità dei dati, aspetti cruciali per le strategie on-premise.

Mistral AI ha presentato Mistral Medium 3.5, un LLM denso da 128 miliardi di parametri con una finestra di contesto di 256k token. Il modello è multimodale, supporta funzionalità di ragionamento configurabili e si propone come soluzione unificata per istruzioni, ragionamento e coding, sostituendo le versioni precedenti. La sua architettura lo rende un candidato interessante per deployment on-premise che richiedono controllo e sovranità dei dati.

I ricercatori di Wiz hanno scoperto una vulnerabilità di elevata gravità nell'infrastruttura `git` di GitHub, che consentiva l'accesso completo a repository privati. L'assistenza di Claude, un Large Language Model, ha accelerato significativamente il processo di scoperta, trasformando mesi di lavoro in tempi rapidi e portando a un riconoscimento per il team di Wiz.

Shapes introduce personaggi AI nelle chat di gruppo, richiamando l'esperienza di piattaforme come Discord. Questa innovazione solleva questioni cruciali per le aziende riguardo al deployment degli LLM, alla sovranità dei dati e ai requisiti infrastrutturali per gestire l'inference on-premise, bilanciando costi e controllo.

Nel panorama degli LLM per la generazione di codice, emerge una pratica diffusa: disabilitare le fasi di "pensiero" intermedio. Questa strategia, sebbene raccomandata da molti, solleva interrogativi sulle sue motivazioni profonde. L'analisi di questa scelta rivela implicazioni dirette su efficienza, latenza e TCO, aspetti cruciali per i deployment on-premise, dove il controllo delle risorse è prioritario per CTO e architetti di infrastruttura.

DeepSeek ha dato il via alla fase di "grayscale testing" per il suo nuovo modello, "DeepSeek with Vision". Questa mossa indica un passo significativo nello sviluppo di Large Language Models multimodali, che integrano la comprensione visiva. Il processo di testing graduale è cruciale per validare le performance e la stabilità prima di un rilascio più ampio, ponendo nuove sfide per le strategie di deployment, in particolare per le implementazioni self-hosted.

Il modello Xiami mimo-v2.5 pro, rilasciato con licenza MIT, ha superato Opus 4.5 nella classifica Arena dedicata ai modelli di linguaggio per il coding. Questo risultato posiziona Xiami mimo-v2.5 pro al nono posto, un gradino sopra il suo predecessore, e segna un passo significativo per la disponibilità di LLM open weight ad alte prestazioni, particolarmente rilevante per i deployment on-premise e la sovranità dei dati.

Un recente studio introduce Exploratory Sampling (ESamp), una tecnica di decodifica innovativa per i Large Language Models (LLM) che mira a superare i limiti della variazione lessicale superficiale. ESamp incentiva attivamente la diversità semantica nelle risposte, utilizzando un "Distiller" leggero per identificare e favorire pattern meno esplorati. Con un overhead minimo (fino all'1,2% nella versione ottimizzata), la metodologia migliora l'efficienza e la generalizzazione in compiti complessi, inclusa la generazione di codice e testi creativi.

La ricerca affronta la scarsità di dati per i sistemi di riconoscimento vocale automatico (ASR) dedicati agli anziani (EASR). Un nuovo approccio combina la parafrasi di trascrizioni tramite Large Language Models (LLM) con la sintesi text-to-speech (TTS) per generare dati di training sintetici. Questo metodo, applicato al fine-tuning di Whisper, ha dimostrato una riduzione del Word Error Rate (WER) fino al 58,2% su dataset in inglese e coreano, superando le tecniche di augmentazione convenzionali.

Un dibattito chiave nel campo dei Large Language Models verte sulla modalità di ragionamento. Nonostante operino internamente con vettori ad alta dimensione, gli LLM esprimono il loro processo di pensiero tramite linguaggio naturale. Si esplora l'ipotesi di un ragionamento esplicito nello spazio vettoriale, valutandone i potenziali benefici in termini di velocità e compressione, ma anche i rischi legati all'opacità e alla verificabilità, cruciali per i deployment aziendali e il TCO.

OpenAI ha implementato direttive specifiche per il suo agente di codifica, istruendolo a evitare argomenti irrilevanti come creature fantastiche o animali, a meno che non siano strettamente pertinenti. Questa mossa evidenzia la crescente necessità di controllare l'output degli LLM in contesti professionali, un aspetto cruciale per le aziende che valutano deployment on-premise dove la prevedibilità e la pertinenza delle risposte sono fondamentali per la compliance e la sovranità dei dati.

Elon Musk ha testimoniato in tribunale, rivelando di aver fondato OpenAI per scongiurare un 'Terminator Outcome' legato all'intelligenza artificiale. La vicenda si inserisce in un contesto di tensioni, con il giudice che ha richiamato Musk e Sam Altman per l'uso dei social media, evidenziando le complessità che circondano lo sviluppo e il controllo dei Large Language Models.

Nvidia ha presentato Nemotron 3 Nano Omni, un modello AI multimodale open-weight da 30 miliardi di parametri, ottimizzato per l'inference su dispositivi edge. Grazie a un'architettura Mixture-of-Experts, attiva solo 3 miliardi di parametri per passata, unificando comprensione visiva, audio e linguistica per agenti autonomi. Questa soluzione mira a estendere le capacità degli LLM in contesti con risorse limitate, prioritizzando sovranità dei dati e bassa latenza.

Mistral AI si prepara a rilasciare il suo modello "Medium", che si distinguerà per 128 miliardi di parametri. Questa nuova iterazione, che potrebbe adottare un'architettura densa o una versione meno sparsa di Mixture of Experts (MoE) rispetto a Mistral Small, solleva interrogativi sulle sue implicazioni per il deployment, in particolare per le infrastrutture self-hosted e i requisiti hardware.

IBM ha annunciato la disponibilità globale di Bob, il suo assistente AI per la programmazione. Il sistema, testato internamente da 80.000 dipendenti, ha dimostrato di migliorare la produttività. Questo rilascio segna un passo importante per l'adozione di strumenti AI a supporto degli sviluppatori, con implicazioni per l'ottimizzazione dei flussi di lavoro e la gestione delle risorse computazionali.

Una recente ricerca pubblicata su *Frontiers in Behavioral Neuroscience* esplora il legame tra gli infrasuoni, frequenze acustiche non udibili dall'orecchio umano, e sensazioni di malessere o disagio. Lo studio ha coinvolto 36 volontari, rilevando un aumento dei livelli di cortisolo, indicatore di stress, in presenza di infrasuoni. Questi risultati suggeriscono che tali frequenze potrebbero agire come irritanti ambientali, contribuendo a spiegare esperienze "paranormali" attraverso meccanismi fisiologici.

AWS amplia la sua offerta AI integrando i modelli GPT di OpenAI, Codex e Managed Agents. Questa mossa permette alle aziende di sviluppare soluzioni di intelligenza artificiale sicure nei loro ambienti cloud, sollevando interrogativi sui trade-off tra deployment on-premise e servizi gestiti per la sovranità dei dati e il TCO.

L'ecosistema degli LLM è in fermento per un potenziale annuncio da parte di Mistral AI. Un recente post sui social media suggerisce l'imminente rilascio di nuovi modelli o l'aggiornamento di strumenti esistenti, un evento che potrebbe avere ripercussioni significative per le strategie di deployment on-premise e la gestione della sovranità dei dati nelle aziende.

NVIDIA ha rilasciato Nemotron-3 Nano Omni 30B, un Large Language Model multimodale capace di elaborare input audio, immagini e testo per generare risposte testuali. Disponibile in precisione BF16 e in formato GGUF ottimizzato, questo modello si posiziona come una soluzione interessante per scenari di Inference on-premise, offrendo flessibilità e controllo sui dati, aspetti cruciali per i decision-makers tech.

È stato rilasciato Ling-2.6-flash, un nuovo Large Language Model che si posiziona come soluzione interessante per l'inference su infrastrutture proprietarie. La sua presenza nella comunità dedicata ai deployment locali suggerisce un'attenzione particolare all'efficienza e all'ottimizzazione delle risorse, aspetti cruciali per le aziende che privilegiano la sovranità dei dati e il controllo sul proprio stack tecnicico, valutando alternative al cloud per i carichi di lavoro AI.