I framework agentici si stanno consolidando attorno a primitive minime e harness locali. I guasti silenziosi nelle pipeline agente-strumento e i risultati misti nei benchmark mostrano che orchestrazione e supervisione umana restano il vero collo di bottiglia.
KoboldCpp ora include un harness agente integrato, attivabile con una spunta o con --agent. L'agente offre nove strumenti integrati, un prompt di sistema da circa 2.000 token e punta a sostituire tool esterni come Opencode, Codex e Claude Code. Richi...
Un gruppo di ricerca ha sottoposto gli agenti di previsione a stress test comportamentali per capire quando retrieval, ragionamento, prior di mercato o analoghi storici meritano fiducia. La scelta del meccanismo dipende dalla fonte. ReliabilityRoute ...
Uno studio su migliaia di trascrizioni di sessioni di tutoraggio mostra che usare il disaccordo tra più LLM per indirizzare l'attenzione degli esperti accorcia la revisione dei codebook da mesi a giorni. Tra tre metodi, la Rationale Labeling raggiung...
Un team di ricerca ha presentato JAZ, un framework per agenti LLM che riduce l'harness a un unico primitive, invoke, capace di eseguire codice arbitrario e di esporre all'LLM input e cronologia come variabili. Senza tool manuali né sistemi esterni, i...
Uno studio su 15 tool scientifici integrati in ToolUniverse ha individuato 91 guasti silenziosi nell'interazione tra agenti e tool: fallimenti in cui l'API o il wrapper restituiscono risposte incomplete senza alcuna notifica. La maggior parte si conc...
Un utente self-hosted racconta di aver chiesto al suo LLM locale di modificare vLLM per ridurre i consumi in idle con CUDA_DISABLE_PERF_BOOST=1. La scena mostra potenzialità e rischi dell'automazione operativa: risparmio energetico reale, ma anche ne...
Shopify descrive un loop di apprendimento continuo basato su PyTorch e vLLM: gli errori di produzione diventano aggiornamenti dei pesi del modello. L'agente GraphQL supera la qualità del modello frontier e taglia il costo di serving del 96%, passando...
La BI end-to-end rivela un limite strutturale dei LLM: sotto il 50% di accuratezza senza guida umana. Il guadagno vero arriva da architetture che orchestrano strumenti e da post-training su dati proprietari. Per chi valuta on-premise e self-hosted, i...
Il benchmark BI-Bench, costruito su progetti reali e dashboard pubbliche, mostra che anche i LLM frontier restano sotto il 50% di accuratezza nella business intelligence end-to-end. BI-Agent, un agente tool-augmented che scompone ricerca, join e tras...
