Si stanno compiendo progressi significativi nei modelli linguistici di grandi dimensioni (LLM), tra cui nuove architetture, tecniche di addestramento e applicazioni. La ricerca si concentra sul miglioramento dell'efficienza, sulla riduzione dei requisiti di memoria e sul miglioramento delle prestazioni in domini specifici.
Un utente di Reddit ha condiviso un aggiornamento sullo sviluppo di JARVIS, un agente basato su modelli linguistici di grandi dimensioni (LLM). Il post originale include un link a un video dimostrativo del progetto. Lo sviluppo di agenti LLM rapprese...
Un utente con una GPU Nvidia RTX 5070 Ti da 16GB si interroga sull'efficacia dello sviluppo di modelli linguistici di grandi dimensioni (LLM) in locale. L'esperienza con Kilo code e Qwen 2.5 coder 7B tramite Ollama ha evidenziato problemi con la gest...
Una possibile collaborazione tra Apple e Google nel campo dell'intelligenza artificiale potrebbe ridefinire il mercato degli assistenti vocali. La partnership, se concretizzata, avrebbe un valore stimato fino a 5 miliardi di dollari. Implicazioni e d...
Un nuovo studio analizza gli effetti collaterali inattesi derivanti dall'uso di specifiche caratteristiche stilistiche nei prompt per agent conversazionali basati su modelli linguistici di grandi dimensioni (LLM). La ricerca rivela come la richiesta ...
Un nuovo studio introduce BYOL, un framework per migliorare le prestazioni dei modelli linguistici di grandi dimensioni (LLM) in lingue con scarsa presenza digitale. BYOL classifica le lingue in base alle risorse disponibili e adatta le tecniche di t...
I modelli linguistici di grandi dimensioni (LLM) stanno diventando sempre più importanti nei sistemi di ricerca e raccomandazione online. Una nuova ricerca analizza come questi modelli codificano l'affidabilità percepita nelle narrazioni web, rivelan...
È stato presentato cuda-nn, un motore di inferenza MoE (Mixture of Experts) sviluppato in Rust, Go e CUDA. Questo progetto open source si distingue per la sua capacità di gestire modelli con 6,9 miliardi di parametri senza l'ausilio di PyTorch, grazi...
Uno sviluppatore ha creato DetLLM per risolvere il problema della non riproducibilità nell'inferenza degli LLM. Lo strumento verifica la ripetibilità a livello di token, genera un report e crea un pacchetto di riproduzione minimo per ogni esecuzione,...
Un utente si chiede come ottenere il massimo dai modelli linguistici di dimensioni ridotte (SLM), in particolare quando sono ottimizzati per un argomento specifico. La sfida è che i prompt tradizionali, efficaci con i modelli linguistici di grandi di...
Presentata la versione 2.5.0 di GFN (Geodesic Flow Networks), un'architettura che riformula il sequence modeling come dinamica di particelle. GFN offre inferenza O(1) e stabilità grazie all'integrazione simplettica. Dimostrata la generalizzazione zer...
Un team ha elaborato oltre un milione di email per trasformarle in contesto strutturato per agenti di intelligenza artificiale. L'analisi ha rivelato che la ricostruzione dei thread è complessa, gli allegati sono fondamentali, le conversazioni multil...
Lo Speculative Decoding promette un'accelerazione da 2x a 3x nell'inferenza dei modelli linguistici di grandi dimensioni (LLM) senza sacrificare la precisione. Sfruttando un modello più piccolo per generare bozze di token, e verificandole poi in para...
Una nuova ricerca mostra che ripetere i prompt può migliorare significativamente le prestazioni dei modelli linguistici di grandi dimensioni (LLM) in compiti che non richiedono ragionamento complesso. L'approccio non incide sulla latenza e potrebbe d...
DeepSeek AI ha presentato Engram, un'innovativa unità di memoria statica per LLM. Engram separa la memorizzazione dal ragionamento, consentendo ai modelli di gestire contesti più ampi e migliorare le prestazioni in compiti complessi come matematica e...
Un nuovo studio esplora come i workflow multi-step basati su modelli linguistici di grandi dimensioni (LLM) possano generare piani di ricerca più innovativi e fattibili. Confrontando diverse architetture, la ricerca evidenzia come approcci basati sul...
Una nuova ricerca rivela che il meccanismo di self-attention dei Transformer, in condizioni di alta confidenza, opera nell'algebra tropicale (max-plus). Questo studio trasforma l'attenzione softmax in un prodotto di matrici tropicali, mostrando come ...
La startup cinese DeepSeek ha sviluppato una nuova tecnica, chiamata "Engram", per addestrare modelli di intelligenza artificiale di grandi dimensioni, superando le limitazioni imposte dalle restrizioni statunitensi sull'esportazione di chip avanzati...
I modelli Spectral Generative Flow Models (SGFM) si propongono come alternativa ai modelli linguistici di grandi dimensioni basati su transformer. Sfruttando la dinamica stocastica vincolata in una base wavelet multiscala, SGFM offre un meccanismo ge...
Un nuovo studio presenta MedES, un benchmark dinamico per allineare i modelli linguistici di grandi dimensioni (LLM) all'etica medica cinese. Il sistema utilizza un valutatore automatizzato per fornire feedback etico strutturato, migliorando le prest...
Un nuovo approccio alla compressione dei modelli linguistici di grandi dimensioni (LLM) promette di ridurre significativamente il fabbisogno di memoria e le risorse di calcolo. La tecnica, denominata Hierarchical Sparse Plus Low-Rank (HSS), combina l...
Un nuovo studio identifica i limiti degli attuali modelli di roleplaying, che faticano a riprodurre personaggi credibili. Il framework VEJA (Values, Experiences, Judgments, Abilities) propone un nuovo metodo di training basato su dati curati manualme...
Anthropic ha presentato Cowork, una nuova funzionalità integrata nell'app desktop di Claude. Cowork permette agli utenti di designare cartelle specifiche dove Claude può leggere o modificare file, ricevendo istruzioni tramite la consueta interfaccia ...
