Gli harness agentici per LLM si stanno consolidando attorno a primitive più semplici e strumenti locali, mentre nuovi studi espongono guasti silenziosi quando gli agenti interagiscono con API e sistemi di produzione. Runtime open source e vendor stanno integrando gli agenti nei flussi di lavoro produttivi.
Un utente racconta come un modello Qwen 3.8 Flash Next su due RTX 3090 abbia superato GPT-5.6 Luna in un progetto reale, dopo essere stato collegato a Codex CLI. Il risultato riapre il dibattito su quale strato conti davvero nel deployment locale: no...
KoboldCpp ora include un harness agente integrato, attivabile con una spunta o con --agent. L'agente offre nove strumenti integrati, un prompt di sistema da circa 2.000 token e punta a sostituire tool esterni come Opencode, Codex e Claude Code. Richi...
La convinzione che l’intelligenza artificiale imponga di riscrivere i sistemi legacy è spesso sbagliata. Esistono pattern di integrazione che trattano l’AI come un nuovo strato, non come una nuova fondazione: middleware, RAG, integrazione event-drive...
Un gruppo di ricerca ha sottoposto gli agenti di previsione a stress test comportamentali per capire quando retrieval, ragionamento, prior di mercato o analoghi storici meritano fiducia. La scelta del meccanismo dipende dalla fonte. ReliabilityRoute ...
Un team di ricerca ha presentato JAZ, un framework per agenti LLM che riduce l'harness a un unico primitive, invoke, capace di eseguire codice arbitrario e di esporre all'LLM input e cronologia come variabili. Senza tool manuali né sistemi esterni, i...
Uno studio su 15 tool scientifici integrati in ToolUniverse ha individuato 91 guasti silenziosi nell'interazione tra agenti e tool: fallimenti in cui l'API o il wrapper restituiscono risposte incomplete senza alcuna notifica. La maggior parte si conc...
Intel sposta il focus sull'AI agentica: il coordinamento tra CPU e GPU diventa il fulcro. La mossa segnala una rilettura dell'hardware per workload che non si esauriscono in una singola inference, ma concatenano ragionamento, tool calling e memoria. ...
Un utente self-hosted racconta di aver chiesto al suo LLM locale di modificare vLLM per ridurre i consumi in idle con CUDA_DISABLE_PERF_BOOST=1. La scena mostra potenzialità e rischi dell'automazione operativa: risparmio energetico reale, ma anche ne...
Shopify descrive un loop di apprendimento continuo basato su PyTorch e vLLM: gli errori di produzione diventano aggiornamenti dei pesi del modello. L'agente GraphQL supera la qualità del modello frontier e taglia il costo di serving del 96%, passando...
