Dai connettori MCP e LLM cyber-capable all'ASCII smuggling e alle backdoor introdotte dalla quantization, le minacce si spostano dalla prompt injection all'infrastruttura e alla supply chain dei modelli.
La tecnica dei tag Unicode invisibili, nata per nascondere prompt injection agli LLM, è ora usata dagli spammer per eludere i filtri email. Il passaggio segnala una divergenza strutturale: i modelli leggono ciò che gli umani non vedono. Per i deploym...
OpenAI ha mostrato in anteprima le precauzioni per Astra, il suo nuovo LLM definito cyber-critical e molto abile nel compromettere i sistemi. La notizia sposta il baricentro della sicurezza: per deployment on-premise e self-hosted, la capacità offens...
L'artista Simon Weckert ha creato una camicia con motivi sfocati rosa e verdi che impedisce a un algoritmo YOLO di classificare una persona come tale. Il progetto nasce dalle telecamere con riconoscimento di oggetti installate dalla polizia a Berlino...
MCP è diventato lo standard per collegare agenti e strumenti, ma porta con sé una superficie d'attacco che i firewall tradizionali non coprono. Tra tool poisoning, rug pull e accessi sovradimensionati, il vero nodo è la fiducia nei metadati. I fornit...
La compressione post-training non è una trasformazione neutra. Un paper mostra classi di equivalenza comportamentale che collassano parametri diversi e aprono backdoor attivate solo dopo quantization INT8 o 4 bit. I test su modelli multilingua segnal...
Un nuovo studio formalizza il validation-deployment gap: un LLM può superare i controlli a precisione piena e attivare comportamenti dannosi solo dopo quantization INT8 o a 4 bit. Nei test, la traduzione tattica passa da zero corruzione a FP16 ripara...
