Le considerazioni etiche e le misure di sicurezza stanno diventando sempre più importanti man mano che i modelli di IA diventano più potenti. Ciò include affrontare i pregiudizi, prevenire l'uso improprio e garantire uno sviluppo responsabile.
Un nuovo studio esplora l'uso della distillazione di conoscenza per migliorare la sicurezza dei modelli linguistici di grandi dimensioni (LLM) in contesti multilingua. I risultati mostrano che l'affinamento su dati "sicuri" può paradossalmente aument...
Anthropic, con il suo modello Claude, sembra voler spostare l'attenzione nella corsa all'intelligenza artificiale. L'azienda punta ora su aspetti come l'etica e la responsabilità, oltre che sulla pura potenza di calcolo e la scalabilità dei modelli.
Una donna è stata vittima di abusi tramite immagini generate dall'AI. Sconosciuti hanno creato immagini di nudo a partire dal suo profilo e hanno aperto un account OnlyFans a suo nome. L'incidente è avvenuto durante un picco di generazione di immagin...
Hacker supportati da stati nazionali stanno usando modelli AI come Gemini per affinare attacchi phishing e sviluppare malware. Gruppi da Iran, Corea del Nord, Cina e Russia sfruttano l'AI per ricognizione, social engineering e sviluppo di codice male...
OpenAI ha sciolto il team dedicato allo sviluppo di un'intelligenza artificiale "sicura" e "affidabile". Il responsabile del team assumerà il ruolo di Chief Futurist, mentre gli altri membri saranno riassegnati all'interno dell'azienda.
Zoë Hitzig, economista e ricercatrice, ha lasciato OpenAI per divergenze sulla strategia pubblicitaria di ChatGPT. Temi che l'uso dei dati personali condivisi dagli utenti possa portare a manipolazioni, ripetendo errori del passato. Hitzig critica la...
Gli assistenti AI dotati di capacità di azione autonoma sollevano serie preoccupazioni per la sicurezza dei dati. L'articolo esamina i rischi connessi a strumenti come OpenClaw, che offrono ampie possibilità di personalizzazione ma espongono gli uten...
Un sistema di chirurgia dei seni paranasali potenziato dall'intelligenza artificiale ha visto un aumento significativo di malfunzionamenti, passando da otto a cento incidenti. L'indagine solleva preoccupazioni sulla sicurezza e l'affidabilità dell'in...
Un podcast analizza le nuove funzionalità di Ring e solleva preoccupazioni sulla sorveglianza di massa. Si discute anche di come il Lockdown Mode di Apple abbia impedito all'FBI di accedere all'iPhone di un giornalista del Washington Post, evidenzian...
Una dirigente di OpenAI, che si era opposta all'introduzione di una "modalità adulta" nel chatbot, sarebbe stata licenziata a seguito di accuse di discriminazione. La dirigente ha negato le accuse.
Un chatbot AI del Dipartimento della Salute americano, promosso da Robert F. Kennedy Jr., ha generato risposte discutibili, suggerendo alimenti adatti all'inserimento rettale e identificando il fegato come la parte del corpo umano più nutriente. L'im...
Ricercatori avvertono: una vulnerabilità zero-click di prompt injection può causare la fuga di dati quando gli agenti AI interagiscono con le app di messaggistica. Un attacco può indurre l'agente a generare URL dannosi che, se visualizzati in antepri...
Ricercatori di Microsoft Azure hanno scoperto che un singolo prompt di training non etichettato può disattivare i meccanismi di sicurezza integrati in diversi modelli linguistici di grandi dimensioni (LLM). La scoperta solleva preoccupazioni sulla ro...
Ricercatori nel settore sanitario hanno scoperto che i chatbot basati su intelligenza artificiale potrebbero mettere a rischio i pazienti fornendo consigli medici imprecisi. La qualità delle risposte è compromessa dall'incapacità degli utenti di forn...
Un utente segnala una grave vulnerabilità di prompt injection in un sistema LLM self-hosted. Durante i test, un prompt malevolo ha esposto l'intero prompt di sistema, evidenziando la mancanza di difese adeguate contro questo tipo di attacco. Le tradi...
Anthropic ha investito milioni di dollari in spot pubblicitari durante il Super Bowl per evidenziare la propria strategia, che rifiuta l'inserimento di pubblicità nei chatbot, in contrasto con altre aziende del settore. La campagna punta a sottolinea...
Higgsfield.ai, una startup che offre strumenti di creazione video basati sull'intelligenza artificiale, ha scatenato indignazione affermando di aver contribuito alla disoccupazione di artisti. La mossa di marketing ha innescato un acceso dibattito su...
L'Inspector General del Dipartimento per la Sicurezza Nazionale USA (DHS) ha avviato un'indagine sull'Immigration and Customs Enforcement (ICE) riguardo potenziali abusi della privacy legati a programmi di sorveglianza e dati biometrici. L'inchiesta ...
