La ricerca sta portando alla luce rischi in fase di deployment come backdoor nella quantization, divari di validazione tra controlli a piena precisione e modelli a 4 bit, e fuzzer white-box che scoprono jailbreak. Anche l'inference locale si rivela vulnerabile a bit flip in ambienti irradiati.
La compressione post-training non è una trasformazione neutra. Un paper mostra classi di equivalenza comportamentale che collassano parametri diversi e aprono backdoor attivate solo dopo quantization INT8 o 4 bit. I test su modelli multilingua segnal...
Un nuovo studio formalizza il validation-deployment gap: un LLM può superare i controlli a precisione piena e attivare comportamenti dannosi solo dopo quantization INT8 o a 4 bit. Nei test, la traduzione tattica passa da zero corruzione a FP16 ripara...
Un nuovo framework di fuzzing white-box sostituisce il feedback sulle risposte con un punteggio continuo ricavato dai neuroni di sicurezza durante la prefill. Su 21 modelli scopre jailbreak nel 76-100% dei casi e trasferisce template ottimizzati a mo...
Un esperimento informale simula l'effetto dei bit flip da radiazione in orbita bassa su un LLM: il modello collassa in fretta. L'episodio evidenzia una fragilità poco discussa nei deployment locali: senza memoria ECC e protezione dai guasti silenzios...
