I framework per costruire, recuperare e controllare agenti LLM riducono i costi di inference e stabilizzano le conversazioni multi-agente. Muse Glimmer di Meta e altri rilasci portano i carichi agentici su GPU consumer e hardware edge locali.
Backtrader-Bench introduce due pipeline per valutare agenti LLM nel trading algoritmico: una genera quesiti a risposta multipla da configurazioni di backtest con verifica indipendente, l'altra estrae domande più difficili che richiedono esecuzione di...
Due agenti LLM con obiettivi opposti non competono: collassano. Experience Orchestrator, testato in 60.000 simulazioni in servizi finanziari, aggiunge un livello di controllo con Contextual Bandit, PID e POMDP. Il tasso di contatto ad alto intento sa...
LLM Agents Factory offre una via pragmatica alla gestione degli agenti: invece di generarli a ogni richiesta, li recupera da un archivio strutturato. Questo riduce i costi di inference, la latenza e la pressione sulle GPU, con implicazioni dirette pe...
Un framework basato su retrieval e distillazione consente di costruire agenti LLM specializzati senza generazione al volo, riducendo drasticamente i costi computazionali e migliorando la stabilità. I test mostrano accuratezza paragonabile ad AutoGen ...
Meta rilascia Muse Glimmer, modello da 30 miliardi di parametri ottimizzato per flussi agentici on-device. ExecuTorch ora supporta l'inference su GPU NVIDIA e Mac Apple silicon, integrando GGUF, k-quant, contesto oltre 128K token e decoding speculati...
Meta rilascia Muse Glimmer, LLM da 30 miliardi di parametri con licenza Apache 2.0, ottimizzato per agenti AI su GPU consumer. Con quantization a 4 bit il modello occupa meno di 20 GB, pensato per ambienti locali con accesso a dati personali. I bench...
Meta rilascia Muse Glimmer, un modello da 30 miliardi di parametri con licenza Apache 2.0, ottimizzato per flussi di lavoro agentici sempre attivi su hardware consumer. La quantization a 4 bit e la decodifica speculativa lo rendono eseguibile su GPU ...
