📁 LLM

Un recente studio compara tre tecniche di spiegabilità per i Large Language Models: Integrated Gradients, Attention Rollout e SHAP. L'analisi, condotta su un modello DistilBERT per la classificazione del sentiment, evidenzia i compromessi tra stabilità, efficienza computazionale e allineamento con le previsioni. I risultati sottolineano il ruolo di questi metodi come strumenti diagnostici fondamentali per la fiducia, il debugging e il deployment in sistemi reali, cruciali per le aziende che adottano soluzioni AI on-premise.

Aletheia introduce un metodo innovativo per il Fine-Tuning LoRA, focalizzandosi sulla selezione degli strati più rilevanti nei Large Language Models. Utilizzando una sonda a gradiente leggera, il sistema identifica gli strati critici, applicando gli adapter LoRA solo dove necessario e con allocazione asimmetrica del rank. Questo approccio ha dimostrato di accelerare il training del 15-28% su un'ampia gamma di modelli (0.5B-72B parametri), mantenendo le performance sui benchmark chiave. La ricerca evidenzia un significativo miglioramento dell'efficienza senza compromettere i risultati finali.

Una nuova ricerca rivela che i Large Language Models (LLM) esibiscono "transizioni di fase spettrali" durante il ragionamento, distinguendolo dal richiamo fattuale. Lo studio, condotto su 11 modelli di 5 architetture diverse, ha identificato sette fenomeni chiave, inclusa la capacità di prevedere la correttezza delle risposte prima della loro generazione finale. Queste scoperte aprono nuove prospettive sulla comprensione e l'ottimizzazione dei processi cognitivi interni agli LLM.

Un nuovo approccio, GIST, affronta le sfide della navigazione per l'AI in ambienti densi e dinamici come negozi e ospedali. Utilizzando una pipeline multimodale, trasforma dati da point cloud mobili in una topologia di navigazione semanticamente annotata. Il sistema migliora la ricerca semantica, la localizzazione con un errore medio di 1,04 metri, la classificazione delle zone e la generazione di istruzioni visivamente fondate, superando i benchmark LLM e dimostrando un tasso di successo dell'80% nella navigazione basata su indicazioni verbali.

DeepER-Med è un nuovo framework di ricerca basata sull'evidenza per la medicina, che impiega un sistema di AI agentica. Affronta la mancanza di trasparenza e criteri espliciti nei sistemi attuali, proponendo un workflow ispezionabile in tre moduli. Valutato con il dataset DeepER-MedQA su 100 domande mediche reali, DeepER-Med supera le piattaforme esistenti nella generazione di insight scientifici. La sua utilità è confermata da casi clinici, dove le conclusioni si allineano alle raccomandazioni mediche, promuovendo fiducia e affidabilità nell'AI sanitaria.

Il CEO di Anthropic, Dario Amodei, ha incontrato alti funzionari della Casa Bianca per discutere l'accesso a Mythos, un LLM all'avanguardia. Il modello è noto per la sua capacità di identificare migliaia di vulnerabilità zero-day. L'incontro, descritto come "produttivo e costruttivo", segna un potenziale sblocco nella situazione di stallo, evidenziando l'importanza strategica dei modelli AI avanzati per la sicurezza nazionale e la sovranità dei dati.

Anthropic ha introdotto Claude Design, un servizio in anteprima di ricerca che permette di creare asset visivi attraverso la conversazione con un modello di intelligenza artificiale. Questa novità, che segue il successo di Claude Code per la generazione di programmi, abbassa la soglia di accesso alla produzione di contenuti grafici. La mossa di Anthropic solleva interrogativi sulle future dinamiche dei team di marketing e sulla ridefinizione dei ruoli professionali.

Canva e Anthropic hanno lanciato Claude Design, un nuovo prodotto di Anthropic Labs che sfrutta Claude Opus 4.7 e il Design Engine di Canva. La soluzione permette di generare elementi visivi personalizzati e modificabili a partire da descrizioni testuali, segnando un'evoluzione significativa nell'interazione tra intelligenza artificiale e design. L'annuncio coincide con il lancio di Canva AI 2.0, che introduce funzionalità avanzate di design conversazionale e orchestrazione agentica.

Anthropic Labs ha annunciato Claude Design, un nuovo strumento che promette di ridefinire l'interazione con l'intelligenza artificiale nel campo della progettazione. Per le aziende che considerano deployment self-hosted, questa novità solleva interrogativi cruciali su requisiti hardware, gestione dei dati e sovranità. L'integrazione di soluzioni AI avanzate on-premise richiede un'attenta valutazione del TCO e delle capacità infrastrutturali.

Anthropic ha lanciato Claude Design, un nuovo strumento pensato per facilitare la creazione di contenuti visivi rapidi. Il prodotto si rivolge a figure come founder e product manager, privi di competenze specifiche nel design, con l'obiettivo di semplificare la condivisione delle loro idee attraverso elementi grafici intuitivi e veloci da generare, democratizzando l'accesso a capacità di design di base.

DeepL, azienda di Colonia nota per i suoi strumenti di traduzione testuale, ha presentato una suite completa per la traduzione vocale in tempo reale, supportando oltre 40 lingue. La soluzione include funzionalità per riunioni e conversazioni, oltre a un'API per l'integrazione aziendale. Una demo ha evidenziato ritardi minimi, ma le sfide legate all'ordine delle parole persistono.

OpenAI ha lanciato GPT-Rosalind, il suo primo modello di linguaggio di grandi dimensioni (LLM) specifico per un dominio. Progettato per la scoperta di farmaci e la ricerca nelle scienze della vita, è stato sottoposto a Fine-tuning per biochimica, genomica e ingegneria delle proteine. L'accesso è limitato a un programma di fiducia per clienti aziendali selezionati, tra cui Amgen e Moderna, evidenziando l'approccio mirato di OpenAI al settore.

Anthropic ha scelto di non rilasciare pubblicamente il suo modello Mythos, specializzato nella ricerca di bug, per timore che potesse facilitare la scoperta e lo sfruttamento di vulnerabilità. Tuttavia, modelli LLM già disponibili al pubblico, come Claude Opus, hanno dimostrato capacità simili, evidenziando come la sicurezza informatica sia un campo in evoluzione con l'avanzare dell'AI.

Un nuovo studio introduce MemGround, un benchmark innovativo progettato per valutare la memoria a lungo termine dei Large Language Models (LLM) in contesti interattivi e gamificati. Superando i limiti delle valutazioni statiche attuali, MemGround si concentra su capacità complesse come il tracciamento dinamico dello stato e il ragionamento gerarchico. I primi esperimenti rivelano che gli LLM attuali faticano ancora con queste sfide, evidenziando l'importanza di strumenti di valutazione più sofisticati per lo sviluppo e il deployment di modelli robusti.

Un nuovo framework unificato mira a risolvere le sfide di memoria e latenza degli LLM in produzione. Proposto da una ricerca recente, il metodo utilizza il compressed sensing per adattare dinamicamente l'esecuzione del modello alle specifiche del task e del token, generando percorsi di esecuzione sparsa efficienti per l'hardware. Questo approccio promette di migliorare significativamente l'efficienza e ridurre il TCO per i deployment on-premise, unificando la compressione del prompt con la riduzione del modello.

MixAtlas è una nuova metodologia per ottimizzare le miscele di dati nel midtraining di Large Language Models multimodali. Il sistema scompone i corpus di addestramento in cluster visivi e tipi di task, utilizzando modelli proxy più piccoli per identificare ricette di dati efficaci. I test su modelli Qwen2-7B e Qwen2.5-7B hanno mostrato miglioramenti significativi nelle performance e una riduzione fino a due volte dei passi di addestramento necessari per raggiungere la stessa perdita. Le ricette ottimizzate sono inoltre trasferibili a modelli più grandi.

Una nuova ricerca affronta la sfida di quantificare gli errori di esplorazione e sfruttamento negli agenti basati su Large Language Models. Gli studi, condotti in ambienti controllabili, rivelano che anche i modelli più avanzati faticano in compiti decisionali complessi. La metodologia proposta introduce una metrica per valutare le performance in modo agnostico rispetto alla policy interna, evidenziando come i modelli di ragionamento e un'ingegneria minima possano migliorare significativamente le capacità degli agenti.

OpenAI ha annunciato GPT-Rosalind, un Large Language Model specificamente addestrato per i flussi di lavoro biologici. Il modello mira a superare le sfide legate ai vasti dataset e alla terminologia specialistica della ricerca, offrendo capacità di analisi e suggerimento per percorsi biologici e target farmacologici, distinguendosi dagli approcci più generici nel campo scientifico.

OpenAI ha rinnovato il suo strumento di coding basato su agenti, introducendo una serie di nuove funzionalità e abilità. Questo aggiornamento mira a estendere il controllo e le capacità del tool direttamente sull'ambiente desktop degli utenti, offrendo maggiore autonomia e potenziale per l'automazione dello sviluppo software.

OpenAI ha annunciato GPT-Rosalind, un modello di ragionamento all'avanguardia progettato per accelerare la scoperta di farmaci, l'analisi genomica e il ragionamento sulle proteine. Questo Large Language Model (LLM) mira a ottimizzare i flussi di lavoro scientifici, offrendo nuove capacità per elaborare e interpretare dati complessi nel settore delle scienze della vita. L'introduzione del modello solleva anche considerazioni importanti sulla sovranità dei dati e sulle opzioni di deployment per le organizzazioni.