Anthropic, attualmente la più grande società di intelligenza artificiale con una valutazione che sfiora i mille miliardi di dollari, è nata nel 2021 da un gruppo di ricercatori che abbandonarono OpenAI, criticandone la scarsa attenzione per la sicurezza, con l’obiettivo di sviluppare software AI in modo controllato e per il bene dell’umanità. Oggi, come rivela il Wall Street Journal, uno dei ricercatori di Anthropic ha annunciato le sue dimissioni per lo stesso motivo. «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite», ha scritto su X il ricercatore, Jacob Coxon. Nelle riflessioni che accompagnano la sua decisione, Coxon ha spiegato che secondo lui, nonostante all’interno della stessa Anthropic ci siano persone consapevoli dei rischi, le aziende AI sono impegnate in una competizione che costringe a sacrificare la cautela.
A fargli eco anche la risposta di Evan Hubinger, altro ricercatore di Anthropic a capo dell’Alignment team, che si occupa della sicurezza dei modelli. «Jacob ha ragione, crediamo sinceramente che l’AI possa uccidere tutti gli esseri umani», scrive Hubinger, aggiungendo che Anthropic sta facendo del suo meglio, ma senza un piano per sviluppare in modo sicuro i modelli più avanzati.
Non è il primo caso di un ricercatore che abbandona l’industria AI per preoccupazioni simili. Nel febbraio scorso, Mrinank Sharma, responsabile della sicurezza di Anthropic, ha lasciato l’azienda per dedicarsi alla scrittura e alla poesia, pubblicando una lettera di dimissioni in cui sosteneva che il mondo fosse in pericolo. Di recente si sono fatte sempre più pressanti le richieste di una regolamentazione incisiva da parte dei governi per quanto riguarda l’AI, anche da parte delle aziende stesse.
Un appello firmato da oltre mille ricercatori del settore, tra cui lo stesso Coxon e il Ceo di Anthropic Dario Amodei, chiede un coordinamento globale per rallentare la ricerca sui modelli AI in grado di migliorarsi da soli. Un grido d’allarme che si è fatto ancora più urgente dopo la scoperta, da parte di OpenAI, che alcuni agenti di intelligenza artificiale avevano hackerato un’altra compagnia sfuggendo al controllo dell’azienda e agendo al di fuori dei limiti previsti.
