Meta ha sviluppato un sistema di inference per raccomandazioni basato su PyTorch, cruciale per tradurre la ricerca avanzata in servizi di produzione. L'articolo descrive il flusso di lavoro, dalla definizione del modello addestrato alle trasformazioni per l'inference, le ottimizzazioni e i requisiti per un server di inference ad alte prestazioni, con particolare attenzione all'utilizzo efficiente di GPU e runtime C++.
Google introduce un nuovo framework, denominato NAI (Natively Adaptive Interfaces), che sfrutta l'intelligenza artificiale per rendere la tecnicia più adattabile e inclusiva. L'obiettivo è migliorare l'esperienza utente per tutti, indipendentemente dalle loro capacità o esigenze specifiche.
Microsoft ha annunciato che l'affidabilità è la priorità per l'integrazione dell'intelligenza artificiale in Visual Studio. La decisione giunge in un momento in cui alcuni sviluppatori hanno espresso preoccupazioni riguardo alle prestazioni e ai comportamenti inattesi di Copilot.
Sono disponibili build precompilate non ufficiali di ik_llama.cpp per macOS, Ubuntu e Windows. Queste build semplificano l'adozione del progetto, evitando agli utenti la compilazione manuale. Il creatore incoraggia comunque l'uso della compilazione dal codice sorgente originale quando possibile.
Il governo britannico, in collaborazione con Microsoft, annuncia un framework per valutare le tecnicie di rilevamento dei deepfake, in risposta alla crescita esponenziale di contenuti generati dall'AI. Tuttavia, esperti del settore esprimono dubbi sull'efficacia reale di tale iniziativa nel fermare la proliferazione di falsi digitali.
OpenAI presenta Frontier, una piattaforma enterprise progettata per la creazione, il deployment e la gestione di agenti di intelligenza artificiale. Frontier offre funzionalità di contesto condiviso, onboarding, gestione dei permessi e governance centralizzata.
Segnalazioni di difficoltà di accesso alla piattaforma Hugging Face si sono diffuse online. Alcuni utenti riportano di non riuscire ad accedere, mentre altri affermano che i servizi principali rimangono operativi. La causa del problema e la sua estensione non sono ancora chiare.
Il team di vLLM ha presentato vLLM-Omni, un sistema progettato per modelli multimodali any-to-any che gestiscono testo, immagini, video e audio. L'architettura include la decomposizione del grafo basata su stage, il batching per stage e l'allocazione flessibile di GPU, con una riduzione del JCT fino al 91,4% testata con Qwen-Image-2512.
Disponibile la prima beta di Krita 6.0, la popolare applicazione di pittura digitale, basata sul toolkit Qt6. Contestualmente, è stata rilasciata anche la beta di Krita 5.3 per chi preferisce rimanere con Qt5. L'aggiornamento introduce miglioramenti nella gestione del colore e supporto Wayland.
Disponibile la versione 1.30 di Intel ISPC (Implicit SPMD Program Compiler), che introduce il supporto AMX (Advanced Matrix Extensions) nella libreria standard. ISPC è un linguaggio di programmazione derivato dal C, progettato per sfruttare al meglio le CPU e le GPU Intel.
Uno sviluppatore ha creato AnyTTS, un sistema che permette di usare qualsiasi motore di text-to-speech (TTS) con diverse interfacce di AI conversazionale, inclusi ChatGPT e modelli LLM locali. L'integrazione avviene tramite la clipboard, semplificando l'uso del TTS su varie piattaforme. Attualmente supporta solo Windows, ma il codice è aperto per adattamenti.
Un nuovo modello di deep learning reversibile utilizza una rete neurale invertibile condizionale per collegare strutture molecolari e spettri NMR 13C. La rete, basata su blocchi biettivi i-RevNet, permette la predizione dello spettro dalla struttura e, inversamente, la generazione di strutture candidate dallo spettro, affrontando la natura uno-a-molti dell'inference spettro-struttura.
Un nuovo studio esplora l'efficacia del framework Task-Method-Knowledge (TMK) per migliorare le capacità di ragionamento e pianificazione dei modelli linguistici di grandi dimensioni (LLM). I risultati mostrano che il prompting strutturato con TMK può aumentare significativamente l'accuratezza su compiti complessi, colmando il divario tra approssimazione semantica e manipolazione simbolica.
Uno sviluppatore ha creato Codag, un'estensione open source per VSCode che visualizza i workflow degli LLM direttamente nell'ambiente di sviluppo. Supporta diversi framework come OpenAI, Anthropic, Gemini, LangChain, LangGraph e CrewAI, oltre a vari linguaggi di programmazione.
Un utente ha sostituito il backend di Claude-Code con modelli NVIDIA NIM, sfruttando un'API gratuita per inference LLM. La modifica include l'uso di Telegram come interfaccia e preserva i token di ragionamento tra le chiamate agli strumenti, migliorando le prestazioni con modelli come GLM 4.7 e Kimi-K2.5. Il codice è modulare, facilitando l'integrazione di altri provider e app di messaggistica.
Microsoft ha annunciato LiteBox, un sistema operativo sandbox sviluppato in Rust. Progettato per la sicurezza, LiteBox sfrutta Linux Virtualization Based Security (LVBS) per isolare il kernel guest tramite virtualizzazione hardware, offrendo un ambiente protetto per l'esecuzione di applicazioni.
Il progetto Mesa ha deciso di disabilitare l'utilizzo di ottimizzazioni LTO (Link-Time Optimization) durante la compilazione a causa di bug difficili da individuare e correggere. L'LTO, pur offrendo vantaggi prestazionali, introduce complessità nel debug dei binari.
La tanto attesa funzionalità di creazione 4D di Roblox è ufficialmente disponibile in open beta. Questa nuova feature promette di aprire nuove frontiere per gli sviluppatori di esperienze interattive sulla piattaforma.
Una pull request su llama.cpp introduce una correzione per il calcolo vettoriale `key_gdiff` nel modello Qwen3Next. La modifica, segnalata inizialmente su Reddit, mira a migliorare la precisione e l'efficienza del modello nell'ambito del progetto llama.cpp.
Un recente thread su Reddit, nella community LocalLLaMA, ha sollevato un acceso dibattito sulle criticità di Ollama, un framework per l'esecuzione locale di modelli linguistici di grandi dimensioni (LLM). La discussione verte su presunte mancanze e aree di miglioramento del sistema.