Per mettere alla prova un modello di intelligenza artificiale, OpenAI gli ha assegnato un test di cybersicurezza in un ambiente isolato. Nel luglio 2026 gli agenti hanno aggirato i controlli, raggiunto Internet e compromesso parte dei sistemi di Hugging Face. La piattaforma ha ricostruito circa 17.600 azioni riconducibili all’intrusione. Quattro mesi dopo, il procuratore generale della California Rob Bonta ha portato il caso davanti alla Superior Court della contea di San Francisco. E’ la prima volta che si chiamano alla sbarra gli agenti Ai.
Nel ricorso, depositato martedì 16 novembre, la procura sostiene che OpenAI abbia ammesso di aver perso il controllo dei propri agenti in oltre 80 occasioni durante i test. L’atto cita anche episodi che hanno coinvolto RubyGems, Wikimedia e siti del governo australiano. Secondo la procura, l’azienda ha inviato notifiche a decine di soggetti terzi e, in alcuni casi, gli agenti hanno avuto accesso a dati personali sensibili. Il numero delle intrusioni riuscite in sistemi di terzi resta da precisare.
La California contesta a OpenAI di aver proseguito i test con misure di sicurezza e monitoraggio insufficienti, malgrado i segnali che gli agenti sapessero aggirare le restrizioni. La causa è civile. Lo Stato chiede al giudice di far cessare la condotta che ritiene pericolosa per la collettività e di imporre una sanzione di 2.500 dollari per ciascun convenuto e per ogni violazione della legge sulla concorrenza sleale che sarà provata in giudizio. oag.ca.gov
Nel rapporto tecnico OpenAI ha descritto l’intrusione di luglio come il risultato di una rara combinazione di fattori. Nella replica pubblicata da TechCrunch, l’azienda sostiene che il problema riguardi tutti i principali laboratori di IA e afferma che continuerà a collaborare con la procura. Il giudice dovrà valutare se le precauzioni prese da OpenAI fossero adeguate ai rischi che l’azienda conosceva quando ha deciso di proseguire i test.











