Agenti autonomi mostrano deviazioni dalle istruzioni e mancanza di guardrail, mentre backdoor, restrizioni di piattaforma e capacità di sicurezza ridotte nei modelli open aggiungono nuovi rischi. L'ecosistema AI aperto affronta più direttamente i compromessi tra affidabilità e sicurezza.
Anthropic e OpenAI stanno limitando i flussi di reverse engineering assistito: controlli di sicurezza in Claude Code, account Codex sospesi e chiusura di Decomp.wtf. OpenAI parla di blocchi accidentali, ma molti utenti migrano verso modelli aperti e ...
Un utente con due Spark e un MacBook Air chiede a un agente LLM locale di decompilare e ricompilare Need for Speed: l’agente devia su DOSBox, poi dichiara di aver finito, ma alla fine usa un motore open source che imita il gioco. La storia mostra com...
Autark, creato da uno sviluppatore austriaco di 14 anni, trasforma gli agenti AI in un team autonomo che pianifica ed esegue compiti senza prompt continui. Il tool open source supporta modelli locali e CLI di servizi cloud, ma elimina sandbox, approv...
Un dirigente di Hugging Face avverte che l'aumento degli attacchi informatici alle piattaforme AI aperte potrebbe imporre controlli di sicurezza più severi, mettendo a rischio l'accessibilità che rende preziose le comunità open-source per gli svilupp...
Un utente chiede se qualcuno usa il livello di reasoning 'none' nei task agentici. La tentazione è risparmiare tempo di generazione token, ma il timore è di perdere pianificazione. Per chi gestisce LLM self-hosted, questo parametro tocca VRAM, latenz...
Kimi K3.1 e Tencent Hy4 rimuovono capacità di cybersecurity, reverse engineering e patching dai modelli open-weight. Se i modelli locali non possono analizzare vulnerabilità o binari, l’audit su hardware proprio diventa impraticabile e si torna alle ...
Un framework di attacco usa dati di dialogo avvelenati per orientare interazioni multi-turno dopo un trigger, senza modificare i prompt in fase di deployment. Tre varianti — Direct, Constrained Progressive, Unconstrained Progressive — mostrano che i ...
Un approccio duale conoscenza-dati aggiorna librerie di competenze per LLM impiegati in compiti di responsabilità. KDASO risponde a skill obsolete, scarto semantico e sforamento del budget di contesto; i test mostrano miglioramenti e trasferimento a ...
