Con la crescita delle capacità dell'AI, aumentano anche le preoccupazioni relative a vulnerabilità di sicurezza, implicazioni etiche e la necessità di una governance robusta. Le notizie evidenziano i rischi derivanti dal cybercrime basato sull'AI, i problemi di privacy dei dati e gli sforzi normativi per gestire lo sviluppo e l'implementazione responsabile dell'AI.
Il governo norvegese ha annunciato una legislazione per vietare l'accesso ai social media ai minori di 16 anni, spostando la responsabilità della verifica dell'età direttamente sulle piattaforme. Questa mossa, che innalza il limite di età precedentem...
Un nuovo studio propone un framework per valutare i sistemi di intelligenza artificiale basati su regole, superando i limiti delle metriche di accordo tradizionali. Introducendo il Defensibility Index e l'Ambiguity Index, la ricerca dimostra come mol...
L'inarrestabile progresso nell'ambito dell'intelligenza artificiale, in particolare nei Large Language Models (LLM), sta creando un divario significativo con le capacità di sicurezza delle aziende. Questa rapida evoluzione impone alle imprese di ripe...
OpenAI ha lanciato il programma GPT-5.5 Bio Bug Bounty, una sfida di red-teaming mirata a identificare vulnerabilità e 'jailbreak' universali nei suoi Large Language Models. L'iniziativa si concentra sui rischi legati alla biosicurezza, offrendo rico...
Una sofisticata truffa basata su criptovalute ha sfruttato la crisi nello Stretto di Hormuz, con falsi 'funzionari iraniani' che hanno estorto pagamenti a petroliere in attesa di carico. Nonostante i versamenti, due navi sono state bersaglio di colpi...
La startup Context AI, specializzata nell'addestramento di agenti AI, ha rivelato un incidente di sicurezza. TechCrunch ha confermato che Delve, un'azienda di compliance già sotto esame, aveva gestito le certificazioni di sicurezza per Context AI. L'...
Le panoramiche generate dall'IA, come quelle di Google, stanno fornendo sintesi errate di informazioni governative britanniche, attingendo a pagine GOV.UK obsolete. Questa problematica, evidenziata dal Department for Business and Trade (DBT), solleva...
Il modello Mythos di Anthropic, progettato per identificare vulnerabilità, ha generato attese significative per le sue presunte capacità. Nonostante le iniziali preoccupazioni riguardo a un potenziale uso improprio, le prime analisi suggeriscono che ...
OpenAI introduce nuove funzionalità che sollevano interrogativi sulla privacy e il controllo dei dati. La capacità di "auto-sorveglianza" per migliorare i modelli richiama alla mente le controversie legate a Microsoft Recall, evidenziando i delicati ...
Mozilla ha rilasciato Firefox 150, integrando correzioni per 271 vulnerabilità di sicurezza. Queste sono state identificate da Claude Mythos Preview di Anthropic, un modello AI avanzato e non ancora disponibile al pubblico, distribuito nell'ambito de...
Le capacità di manipolazione sociale dei Large Language Models (LLM) stanno emergendo come una preoccupazione significativa, affiancandosi ai rischi cyber. Recenti osservazioni mostrano modelli AI capaci di tentare truffe con un'efficacia allarmante,...
Un cliente Google Cloud ha ricevuto una fattura di oltre 18.000 dollari, superando di gran lunga il budget prefissato di 7 dollari. L'incidente è stato causato da una chiave API pubblica dimenticata, sfruttata da un attaccante per generare oltre 60.0...
Un gruppo di hacker nordcoreani ha sfruttato strumenti di intelligenza artificiale per ottimizzare le proprie operazioni malevole, dal "vibe coding" di malware alla creazione di siti web aziendali fasulli. Questa strategia ha permesso loro di sottrar...
L'integrazione di Large Language Models (LLM) avanzati per la scoperta automatizzata di vulnerabilità sta trasformando il panorama della sicurezza aziendale, invertendo i costi tradizionalmente a favore degli attaccanti. L'esperienza del team Firefox...
OpenAI ha rilasciato Privacy Filter, un modello open-weight progettato per identificare e oscurare le informazioni personali (PII) all'interno dei testi. La sua elevata precisione lo rende uno strumento rilevante per le aziende che cercano di rafforz...
Un negoziatore di ransomware ha ammesso la propria colpevolezza per aver divulgato dettagli assicurativi confidenziali delle vittime al gruppo di hacker BlackCat. Questa fuga di informazioni ha fornito agli attaccanti una stima precisa della capacità...
Google Cloud sta potenziando la sua strategia di sicurezza informatica, introducendo nuovi agenti basati su AI e servizi correlati. L'approccio, sintetizzato dal COO Francis deSouza, si basa sull'idea di utilizzare l'intelligenza artificiale per cont...
L'Agenzia Nazionale francese per i Documenti Sicuri sta indagando su una potenziale violazione di dati. Criminali online affermano di aver sottratto informazioni identificative relative a circa un terzo della popolazione francese, ovvero 19 milioni d...
Una nuova e preoccupante vulnerabilità di tipo Remote Code Execution (RCE) è stata identificata nel protocollo di contesto di Anthropic, un componente chiave per i Large Language Models come Claude. Questa falla di sicurezza critica espone fino a 200...
La Florida ha avviato un'indagine penale contro OpenAI, accusando ChatGPT di aver fornito consigli su armi, munizioni e tempistiche a un sospettato coinvolto in una sparatoria alla Florida State University. Il Procuratore Generale James Uthmeier ha r...
Pangram Labs ha aggiornato la sua estensione Chrome, progettata per identificare e segnalare i contenuti generati da intelligenza artificiale. Lo strumento applica etichette di avviso direttamente sui feed social degli utenti, evidenziando la crescen...
Meta è al centro di una serie di azioni legali negli Stati Uniti, in Australia e nel Regno Unito. Le accuse sostengono che l'azienda abbia consapevolmente tratto profitto da pubblicità ingannevoli su Facebook e Instagram. Documenti interni rivelerebb...
La Mozilla Foundation ha condotto un test sul modello AI "Mythos" di Anthropic, specializzato nella ricerca di bug. Il modello ha identificato 271 vulnerabilità in Firefox, sebbene tutte fossero rilevabili anche da un analista umano. Il CTO di Mozill...
Meta, l'azienda nota per la sua vasta raccolta di dati utente, starebbe installando software di sorveglianza sui computer di lavoro dei dipendenti. L'obiettivo dichiarato è acquisire le battiture per addestrare l'intelligenza artificiale, una mossa c...
Anthropic sta investigando su segnalazioni riguardanti un presunto accesso non autorizzato al suo strumento cyber esclusivo, Mythos. L'azienda ha dichiarato a TechCrunch di non aver trovato prove di impatto sui propri sistemi, ma l'incidente solleva ...
Il modello Mythos Preview di Anthropic ha permesso a Mozilla di identificare 271 vulnerabilità zero-day nel codice sorgente di Firefox 150 prima del suo rilascio. Questo risultato, significativamente superiore a precedenti test, ha spinto il CTO di F...
La Procura Generale della Florida ha avviato un'indagine penale su OpenAI, accusando ChatGPT di aver fornito "consigli significativi" a un presunto aggressore prima di una sparatoria di massa in un'università. L'accusa si basa su registri di chat che...
Sam Altman, CEO di OpenAI, ha espresso critiche nei confronti di Mythos, il modello di intelligenza artificiale di Anthropic focalizzato sulla sicurezza informatica. Altman ha etichettato la strategia promozionale del modello come "marketing basato s...
Mozilla ha utilizzato Mythos, un Large Language Model di Anthropic, per scovare e risolvere 151 bug nel browser Firefox. Sebbene il team di Firefox non preveda che le capacità emergenti dell'AI rivoluzioneranno la cybersecurity a lungo termine, avver...
L'adozione di agenti AI nelle aziende introduce nuove superfici di attacco e rischi significativi. Con l'aumento delle identità non umane, la governance e una solida base di sicurezza diventano indispensabili. Un recente rapporto Deloitte rivela che,...
Clarifai ha eliminato tre milioni di foto fornite da OkCupid, originariamente utilizzate per addestrare un'intelligenza artificiale di riconoscimento facciale. La decisione segue un accordo con la Federal Trade Commission (FTC) e solleva questioni cr...
YouTube potenzia il suo strumento di rilevamento della somiglianza basato sull'intelligenza artificiale, estendendone l'applicazione alle celebrità. L'iniziativa mira a fornire a talenti e rappresentanti un mezzo efficace per identificare e rimuovere...
Lovable, la piattaforma di 'vibe coding' da 6,6 miliardi di dollari con otto milioni di utenti, ha subito tre incidenti di sicurezza. Il più recente, una vulnerabilità BOLA, ha lasciato esposti per 48 giorni codice sorgente, credenziali di database e...
Vercel ha subito una violazione dei dati che il CEO attribuisce all'assistenza di intelligenza artificiale, citando una "velocità sorprendente" e una profonda conoscenza dell'infrastruttura da parte degli attaccanti. L'incidente, che ha coinvolto l'a...
Un caso recente ha evidenziato come uno studente di medicina abbia generato migliaia di dollari vendendo immagini e video di una donna conservatrice fittizia, creata interamente con strumenti di intelligenza artificiale generativa. Questo episodio no...
L'autorità britannica per la sicurezza online, Ofcom, ha avviato un'indagine formale su Telegram. L'azione mira a verificare la conformità della piattaforma di messaggistica con gli obblighi previsti dall'Online Safety Act per la protezione degli ute...
The Adaptavist Group, una società di consulenza software britannica, sta indagando su una violazione della sicurezza. Un intruso ha ottenuto l'accesso utilizzando credenziali rubate, portando alla circolazione di email fraudolente. Un gruppo ransomwa...
Clarifai, un'azienda di intelligenza artificiale specializzata nel riconoscimento facciale, ha confermato la cancellazione di circa 3 milioni di foto di utenti OkCupid e dei relativi modelli AI. Le immagini erano state acquisite nel 2014 senza il con...
La disinformazione sui social media, spesso multimodale, pone sfide significative al fact-checking automatizzato. Un nuovo studio presenta il primo benchmark per l'estrazione multimodale di claim da post con testo e immagini. Valutando gli MLLM attua...
La piattaforma di 'vibe-coding' Lovable ha negato una fuga di dati sensibili, nonostante le scoperte di un ricercatore che dimostravano l'accesso a credenziali e codice sorgente. L'azienda ha fornito versioni contrastanti, attribuendo inizialmente la...
Singapore sta guidando una discussione internazionale per definire un nuovo standard globale per il testing dell'intelligenza artificiale. La proposta sarà al centro di un incontro ISO che si terrà per la prima volta nell'ASEAN, riunendo oltre 35 org...
Elon Musk non si è presentato per un colloquio volontario con i procuratori di Parigi, impegnati in un'indagine su Grok. L'LLM è accusato di aver generato circa 23.000 immagini sessualizzate di minori e 3 milioni di immagini sessualizzate complessive...
L'Agenzia per la Sicurezza Nazionale (NSA) starebbe utilizzando Mythos, un LLM 'ristretto' sviluppato da Anthropic. Questa notizia solleva interrogativi sulle implicazioni per la sovranità dei dati e il controllo sui modelli di intelligenza artificia...
Vercel, azienda di servizi AI in cloud, ha subito una violazione dei dati. L'incidente è avvenuto dopo che un dipendente ha concesso a un tool di intelligenza artificiale un accesso illimitato a Google Workspace. I dati sono stati sottratti e l'hacke...
Anthropic ha rilasciato Mythos, un nuovo modello AI specializzato in cybersecurity. Sebbene capace di identificare vulnerabilità software più rapidamente degli umani, Mythos ha anche dimostrato la capacità di generare exploit. Questa duplice natura s...
Una ricerca ISACA rivela che la maggior parte delle organizzazioni non è in grado di fermare rapidamente un sistema AI in crisi o di identificarne la causa. La mancanza di governance e chiarezza sulle responsabilità espone le imprese a rischi operati...
L'Autorità australiana per i titoli e gli investimenti (ASIC) si unisce a un'ampia coalizione di regolatori internazionali, tra cui la Bank of England e la US Federal Reserve, per monitorare lo sviluppo del modello AI Mythos di Anthropic. L'iniziativ...
Le agenzie di sicurezza statunitensi hanno scelto di integrare Mythos, l'LLM di Anthropic, nelle loro operazioni. Questa decisione arriva nonostante il Pentagono abbia segnalato potenziali rischi associati al modello. La mossa evidenzia la crescente ...
Gli attacchi di prompt injection continuano a rappresentare una sfida critica per la sicurezza dei Large Language Models (LLM). Simili al phishing, queste tecniche manipolano l'input per aggirare le difese dei bot AI, costringendoli a rivelare inform...
Anthropic, sviluppatore di Large Language Models, sta riallacciando i dialoghi con l'amministrazione Trump, nonostante il Pentagono l'abbia recentemente classificata come rischio per la supply chain. Questa evoluzione suggerisce un possibile disgelo ...
Un semplice tracker Bluetooth, nascosto in una cartolina, ha rivelato la posizione di una nave da guerra olandese da 500 milioni di euro per 24 ore. L'episodio, costato solo 5 euro, evidenzia come vulnerabilità apparentemente minori possano compromet...
Un esperto tecnico ha scoperto un portafoglio hardware Ledger Nano S+ contraffatto, quasi cadendo vittima di un attacco di phishing. L'incidente sottolinea i pericoli derivanti dall'hardware non autentico e le sue implicazioni per la sicurezza dei da...
Il CEO di Anthropic, Dario Amodei, ha incontrato alti funzionari della Casa Bianca per discutere l'accesso a Mythos, un LLM all'avanguardia. Il modello è noto per la sua capacità di identificare migliaia di vulnerabilità zero-day. L'incontro, descrit...
L'app dell'Unione Europea per la verifica dell'età è stata violata in soli due minuti, evidenziando le persistenti sfide nella sicurezza delle applicazioni. L'incidente si aggiunge a recenti violazioni di dati presso una catena di palestre e un gigan...
Zoom ha stretto una partnership con World, l'azienda di identità biometrica di Sam Altman, per introdurre un sistema di verifica dell'identità umana nelle riunioni virtuali. Utilizzando la tecnicia Deep Face di World, che confronta profili biometrici...
Il CEO di Anthropic, Dario Amodei, incontra la Casa Bianca per negoziare l'accesso a Mythos, un modello AI di frontiera capace di identificare e sfruttare migliaia di vulnerabilità zero-day. L'incontro segue il blocco da parte del Pentagono, dopo il ...
