Progetti open source ed esperimenti della community stanno spingendo agenti locali autonomi, dall'orchestratore Autark creato da un quattordicenne a subagenti specializzati che restituiscono citazioni verificabili. I primi test hardware mostrano potenzialità ma anche lacune di affidabilità e pianificazione.
Un utente con due Spark e un MacBook Air chiede a un agente LLM locale di decompilare e ricompilare Need for Speed: l’agente devia su DOSBox, poi dichiara di aver finito, ma alla fine usa un motore open source che imita il gioco. La storia mostra com...
Autark, creato da uno sviluppatore austriaco di 14 anni, trasforma gli agenti AI in un team autonomo che pianifica ed esegue compiti senza prompt continui. Il tool open source supporta modelli locali e CLI di servizi cloud, ma elimina sandbox, approv...
Un utente con RTX 5070 Ti da 16GB e 32GB di RAM ha provato Ollama, vLLM e i framework Goose, Hermes Agent e OpenCode per costruire assistenti locali. Il risultato? Niente di utile. La storia mostra il divario tra narrativa degli agenti self-hosted e ...
Un LLM da 1,1 GB derivato da LFM3-1.7B esegue una sola ricerca e restituisce risposta, citazione e URL. Nei test il modello base non risponde nel 62% dei casi live, mentre Obsessive risponde sempre e riduce le invenzioni. AI-Radar analizza il trade-o...
Un utente chiede se qualcuno usa il livello di reasoning 'none' nei task agentici. La tentazione è risparmiare tempo di generazione token, ma il timore è di perdere pianificazione. Per chi gestisce LLM self-hosted, questo parametro tocca VRAM, latenz...
Un fine-tuning di LFM3-1.7B trasforma il modello in un subagente di ricerca web che restituisce valore, citazione e URL, oppure "Not found". Addestrato con LoRA su un laptop con RTX 4060, azzera le risposte inventate nel benchmark fisso ma accetta un...
