OpenAi rinuncia al lancio dell’ultimo modello AI per timori sicurezza. E Anthropic nel prospetto Ipo avverte sui rischi

OpenAi rinuncia al lancio del suo ultimo modello di intelligenza di nuova generazione a causa dei timori sulla sicurezza sollevati dai ricercatori durante i test. Lo riporta il Wall Street Journal. La startup guidata da Sam Altman avrebbe voluto lanciare Gpt-6.1 Astra nel giro di settimane ma il modello non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Secondo quanto spiegato dal responsabile dei sistemi di sicurezza di OpenAi Saachi Jain, il modello ha ottenuto risultati scadenti nella capacità di attenersi alle aspettative degli umani e ha mostrato una maggiore propensione all’inganno.

OpenAI, inoltre, ha ammesso che avrebbe dovuto condividere “prima” i primi risultati delle indagini con le autorità australiane dopo che i suoi modelli di intelligenza artificiale avevano violato alcuni siti web governativi. «Il nostro obiettivo era fornire alle agenzie coinvolte un resoconto dettagliato una volta completata l’indagine», ha affermato OpenAI in un post sul blog. «Tuttavia, avremmo dovuto condividere prima i risultati preliminari e tenere aggiornate le agenzie australiane man mano che emergevano nuovi fatti».

Anthropic, intanto, ha formalmente avvertito gli investitori che la sua tecnologia potrebbe comportare rischi esistenziali per l’umanità nel tanto atteso prospetto informativo in vista delle sua quotazione. Lo riporta il Financial Times che ha preso visione del documento, in cui la startup dell’intelligenza artificiale che vale quasi 1.000 miliardi di dollari ribadisce il suo allarme sulla nuova tecnologia. Circa un terzo del suo lungo documento riporta i “fattori di rischio”, inclusa la possibilità per i modelli avanzati di manipolare e mostrare un comportamento imprevedibile. Anthropic lo scorso anno ha registrato una perdita operativa di 8 miliardi di dollari su ricavi balzati a 4,6 miliardi e spese operative di quasi 13 miliardi.