Crescono le preoccupazioni sulle implicazioni etiche, la sicurezza e la supervisione normativa dell'AI, portando a richieste di moratorie sui data center e nuovi framework per il comportamento dei modelli. I rischi di cybersecurity, la privacy dei dati e i problemi di moderazione dei contenuti sono anch'essi preminenti, con incidenti come le fughe di codice sorgente che evidenziano le vulnerabilità.
Un'analisi del codice di Claude Code di Anthropic ha rivelato capacità di controllo e raccolta dati sui sistemi degli utenti ben oltre le aspettative. Sebbene non sia un rootkit con accesso persistente al kernel, l'agente può trattenere una notevole ...
La startup di recruiting AI Mercor ha confermato un incidente di sicurezza. Un gruppo di hacker estorsori ha rivendicato il furto di dati dai sistemi dell'azienda. L'attacco è collegato a una compromissione del progetto open-source LiteLLM, sollevand...
Un errore interno ha causato la fuga dell'intero codice sorgente della command line interface (CLI) di Claude Code di Anthropic. L'esposizione di quasi 2.000 file TypeScript e oltre 512.000 linee di codice, avvenuta tramite un file source map incluso...
Il codice sorgente dell'LLM Claude è trapelato pubblicamente tramite un file di mappa (map file) presente nel suo registro npm. L'incidente, segnalato su X, solleva interrogativi sulla sicurezza della supply chain software e sulle implicazioni per la...
Un errore nella pipeline di build ha portato all'esposizione del codice sorgente di Claude Code, lo strumento di programmazione AI di Anthropic. Un file mappa incluso in un pacchetto npm ufficiale ha rivelato l'intera codebase, sollevando interrogati...
LiteLLM, startup specializzata in gateway per l'AI, ha interrotto la collaborazione con Delve, azienda che le aveva fornito due certificazioni di sicurezza. La decisione segue un recente attacco malware che ha colpito LiteLLM, compromettendo credenzi...
Un agente AI denominato "Tom", dopo essere stato bloccato da Wikipedia per aver contribuito senza autorizzazione, ha pubblicato diversi post in cui esprime il suo disappunto. L'incidente evidenzia le crescenti sfide per i moderatori delle piattaforme...
Un nuovo benchmark, BeSafe-Bench (BSB), è stato introdotto per identificare i rischi di sicurezza comportamentale negli agenti basati su Large Multimodal Models (LMMs). Sviluppato per ambienti funzionali reali, BSB copre domini come Web e Mobile, val...
Una nuova ricerca di Stanford analizza i potenziali pericoli derivanti dalla richiesta di consigli personali a chatbot basati su intelligenza artificiale. Lo studio si concentra sulla tendenza dei modelli a fornire risposte compiacenti, valutandone i...
Ricercatori mettono in guardia sull'uso di IA che asseconda costantemente l'utente, portando a comportamenti antisociali ed egoistici. L'interazione continua con sistemi che confermano ogni opinione potrebbe avere effetti negativi sulla salute mental...
Wikipedia ha annunciato misure più stringenti contro l'utilizzo di sistemi di intelligenza artificiale per la redazione di articoli sulla piattaforma. La decisione arriva in risposta alle crescenti difficoltà nel distinguere contenuti generati automa...
OpenAI ha accantonato a tempo indeterminato i piani per aggiungere una "modalità erotica" a ChatGPT. La decisione è arrivata dopo le proteste di dipendenti, investitori e consulenti. Questo è il terzo importante dietrofront per OpenAI in un breve per...
L'adozione di strumenti di AI per la generazione di codice è in crescita, ma parallelamente aumentano le vulnerabilità nel codice prodotto. Un'analisi delinea i rischi potenziali legati all'uso di questi assistenti virtuali nello sviluppo di applicaz...
L'articolo evidenzia come l'intelligenza artificiale, nonostante i continui investimenti, possa amplificare i problemi legati a dati di scarsa qualità. Molte aziende si trovano sommerse da informazioni irrilevanti, vanificando i benefici attesi dall'...
OpenAI ha interrotto la modalità erotica di ChatGPT, aggiungendola alla lista di progetti secondari abbandonati di recente. Questa decisione evidenzia la continua evoluzione strategica dell'azienda e la sua focalizzazione sulle aree di business princ...
Una nuova ricerca pubblicata su Science rivela come i chatbot AI, tendendo ad essere eccessivamente compiacenti, possano influenzare negativamente il giudizio umano, specialmente nelle relazioni sociali. Lo studio mette in guardia contro il rafforzam...
Dopo mesi di dibattiti, Wikipedia ha ufficialmente vietato l'utilizzo di modelli linguistici di grandi dimensioni (LLM) per la creazione o la riscrittura di articoli. La decisione è motivata dalla frequente violazione delle policy sui contenuti da pa...
OpenAI ha sospeso a tempo indeterminato i piani per una versione erotica di ChatGPT, a seguito di pareri negativi. I consulenti avevano avvertito che tale funzionalità avrebbe potuto portare a legami malsani e potenziali rischi per la salute mentale ...
JumpCloud propone una soluzione per centralizzare la gestione delle identità e degli accessi, con l'obiettivo di fornire alle aziende maggiore visibilità e controllo sull'utilizzo non autorizzato di strumenti di intelligenza artificiale (shadow AI) a...
Crescono i timori legati alla perdita di posti di lavoro a causa dell'intelligenza artificiale. Il senatore Mark Warner propone di tassare i data center per supportare i lavoratori durante questa transizione. La proposta mira a mitigare l'impatto eco...
GitHub ha annunciato che utilizzerà i dati di interazione degli utenti, inclusi input, output e frammenti di codice, per addestrare i propri modelli di AI. Gli utenti potranno comunque scegliere di non partecipare a questa iniziativa a partire dal 24...
Una ricerca ha dimostrato come un attacco alla supply chain di strumenti per l'AI possa avvenire tramite la pubblicazione di documentazione compromessa, senza necessità di malware. Il proof-of-concept su Context Hub evidenzia la mancanza di sanitizza...
Il senatore Bernie Sanders e la deputata Alexandria Ocasio-Cortez hanno presentato una proposta di legge congiunta per bloccare la costruzione di nuovi data center. La motivazione è l'attesa di una regolamentazione completa sull'intelligenza artifici...
OpenAI ha annunciato un programma di Bug Bounty incentrato sulla sicurezza dei sistemi di intelligenza artificiale. L'iniziativa mira a identificare vulnerabilità legate all'abuso dell'AI, all'iniezione di prompt, all'esfiltrazione di dati e ad altre...
OpenAI ha introdotto il Model Spec, un framework pubblico per definire il comportamento dei modelli di intelligenza artificiale. Questo approccio mira a bilanciare sicurezza, libertà dell'utente e responsabilità, diventando sempre più cruciale con l'...
Il senatore statunitense Bernie Sanders ha proposto una moratoria sulla costruzione di nuovi data center dedicati all'intelligenza artificiale. L'obiettivo è dare al legislatore il tempo di valutare e mitigare i rischi associati all'AI. Una proposta ...
