Ha detto no al Pentagono, chiede a tutto il settore di rallentare e avverte sui rischi dell’intelligenza artificiale. Ma domani, giovedì 19 novembre, porta Anthropic al Nasdaq con quella che potrebbe essere la quotazione più grande di sempre: fino a 100 miliardi di dollari raccolti, per un valore che può toccare i 1.400 miliardi. Chi è davvero Dario Amodei? Ne parliamo con Lorenzo Pedrazzi, autore di un saggio su Amodei.
Chi è.
Partiamo dall’inizio, per chi non segue la tecnologia: chi è Dario Amodei, e perché il suo nome riguarda anche chi non ha mai usato un programma di intelligenza artificiale?
Dario Amodei è il co-fondatore e l’amministratore delegato di Anthropic, una delle aziende leader nel settore dell’intelligenza artificiale. Per intenderci, è il laboratorio che ha sviluppato la famiglia di large language model chiamata Claude, molto utilizzata per lo sviluppo di software e altre applicazioni professionali, ma disponibile anche come chatbot. Occupandosi di IA generativa, Amodei è una di quelle personalità della Silicon Valley che plasmano il nostro presente, soprattutto per quanto riguarda il rapporto con la tecnologia di consumo e il modo in cui viviamo molte attività quotidiane, compreso il lavoro. Questo cambiamento ci riguarda tutti, dato che l’IA è ormai un elemento strutturale di molti strumenti che usiamo ogni giorno, o che vengono impiegati dalle istituzioni e dalle più svariate realtà professionali. Se poi consideriamo che Amodei alimenta spesso il dibattito sulla sicurezza dell’IA, e che Anthropic si interfaccia con il governo statunitense in materia di legislazioni e restrizioni, la sua influenza ha anche un peso politico.
L’Italia.
Il padre era un artigiano del cuoio partito dalla Toscana, da Massa Marittima, per San Francisco. I nostri giornali chiamano Amodei «genio italiano». Quanto c’è davvero di italiano in lui?
La supposta “italianità” di Amodei è in gran parte un espediente comunicativo di certa stampa nostrana, un modo per attirare l’attenzione dei lettori. È italiano per parte di padre, senza dubbio, ma è nato negli Stati Uniti e non ha mai vissuto in Italia. Anche a livello culturale, la sua visione del mondo e la sua mentalità paiono molto più statunitensi che italiane. Martin Scorsese o Francis Ford Coppola – giusto per fare due esempi – sono culturalmente più italiani di Amodei, ma nessuno li ha mai definiti «maestri italiani»; al massimo «italo-americani». Il fatto è che non siamo più abituati a vedere un nome italiano connesso a questo genere di rivoluzioni tecnologiche, quindi bastano le sue origini per suscitare una certa curiosità.
Il padre.
Nel suo libro c’è un momento che cambia tutto: la morte del padre per una malattia che pochi anni dopo si sarebbe potuta curare. Che cosa c’entra questo dolore con l’intelligenza artificiale?
Riccardo Amodei muore nel 2006, quando Dario sta valutando quale specializzazione scegliere dopo la laurea in Fisica. Inizialmente è orientato verso la fisica teorica, ma la scomparsa del padre lo spinge verso la biofisica e le neuroscienze computazionali. La sua idea è che, se ci fosse stato un modo per accelerare la ricerca, il padre si sarebbe potuto salvare; e l’intelligenza artificiale, anche grazie alle teorie dell’informatico Raymond Kurzweil, gli sembra lo strumento ideale a questo fine. Sono anni in cui l’IA non è ancora “esplosa”, quindi Amodei sceglie di studiare il cervello, poiché ritiene che l’intelligenza naturale sia la cosa più simile all’intelligenza artificiale. In altre parole, si avvicina all’IA per fini di ricerca medica, rendendosi conto che la biologia è troppo complessa per essere compresa dalla sola mente umana, senza strumenti di calcolo più potenti. Per questo motivo, successivamente passa alla ricerca sul deep learning in aziende come Baidu, Google e poi OpenAI.
La rottura.
Amodei lavorava nell’azienda che ha creato ChatGPT. Poi se ne va, insieme alla sorella Daniela, e fonda una società concorrente, Anthropic. Che cosa è successo?
Parliamo di una vicenda che ha fatto molto scalpore nella Silicon Valley. Amodei passa a OpenAI nel 2016, inizialmente come ricercatore sulla sicurezza dell’IA. I modelli linguistici GPT-1 e GPT-2 rappresentano un grande balzo in avanti per l’intelligenza artificiale generativa, ma è con il successivo GPT-3 che la sfida si fa ancora più importante. Amodei guida un gruppo di fedelissimi che comprende anche la sorella Daniela, e che mette il tema della sicurezza davanti a tutto il resto. La sua squadra ritiene che sia prematuro rendere pubblico il modello senza ulteriori verifiche, ma in quel momento – siamo nel 2020 – OpenAI ha bisogno di monetizzare le sue tecnologie; di conseguenza, Sam Altman decide di far uscire la versione beta di GPT-3, seppure in forma privata, e di trattare con Microsoft per integrare il modello nei suoi prodotti. Da tempo, ormai, Altman e Amodei avevano visioni diverse sulla gestione dell’IA, ed è chiaro che Amodei volesse esercitare un maggiore controllo sullo sviluppo di questa tecnologia. La vicenda di GPT-3 è la proverbiale goccia che fa traboccare il vaso: lui, Daniela Amodei e gli altri fedelissimi scelgono quindi di andarsene, fondando Anthropic nel 2021.
Il paradosso.
Amodei dice che l’intelligenza artificiale può essere pericolosa, eppure la costruisce. Di quali pericoli parla, in concreto? E come giustifica questa apparente contraddizione?
Amodei fa riferimento soprattutto al rischio dell’allineamento autonomo, ovvero la possibilità che le intelligenze artificiali eludano il controllo umano e perseguano obiettivi propri. Ne parla nel suo saggio The Adolescence of Technology, dove cita anche ulteriori pericoli: la disoccupazione di massa; l’impiego dell’IA per sviluppare armi biologiche, chimiche e cibernetiche; lo sfruttamento di questa tecnologia da parte dei regimi autoritari a fini di sorveglianza, identificazione preventiva dei dissidenti e così via. Di recente ha inoltre citato il rischio che sciami di agenti IA autonomi prendano il controllo di internet. Per lui e Anthropic, però, non c’è contraddizione tra sviluppare l’intelligenza artificiale e mettere in guardia dai suoi pericoli: semplicemente, ritengono che l’IA sia inevitabile, quindi tanto vale che a lavorarci siano delle aziende responsabili, in grado di stabilire le giuste norme per la sicurezza e imporre dei paletti.
Il lavoro.
Ha avvertito che nel giro di pochi anni queste macchine potrebbero sostituire metà degli impieghi d’ufficio con cui i giovani iniziano a lavorare. È un allarme da prendere sul serio? E lui, che quelle macchine le vende, che cosa propone?
Il rischio è indubbiamente concreto per certe posizioni entry level, proprio quelle con cui i giovani si affacciano sul mondo del lavoro. In The Adolescence of Technology, Amodei dichiara che lui e gli altri co-fondatori di Anthropic si impegnano a donare l’80% del loro patrimonio a fondi di redistribuzione globale, una misura che dovrebbe contrastare la suddetta crisi occupazionale. C’è da dire che suona ancora come una soluzione un po’ utopistica.
Il no al Pentagono.
A febbraio ha rifiutato al governo americano l’uso della sua tecnologia per la sorveglianza di massa dei cittadini e per armi che decidono da sole, senza controllo umano. Molti lo hanno celebrato come un eroe. Lei invita alla prudenza: perché?
Il punto è che un’azienda che si definisce “etica” e “responsabile” non dovrebbe concedere la sua tecnologia per fini militari, indipendentemente dai paletti che impone. I risultati li abbiamo visti: pare che Claude sia stato usato come supporto nel puntamento dei bersagli in occasione dell’attacco missilistico che ha distrutto la scuola elementare Shajareh Tayyebeh di Minab, nell’Iran meridionale. Sono morti 156 civili, di cui 120 tra bambine e bambini. Amodei lo ha attribuito a un errore umano nell’utilizzo della tecnologia, ma sappiamo bene che la tecnologia stessa non è mai neutra. Claude non ha premuto il grilletto, d’accordo, ma avrebbe comunque fornito le basi e il supporto perché tali decisioni umane venissero prese. Non basta imporre restrizioni sulle armi autonome per avere la coscienza pulita. Fra l’altro, Amodei non è contrario per principio alle armi pienamente autonome; ritiene solo che l’IA attuale non sia ancora abbastanza affidabile per gestirle.
Da che parte sta.
Molti grandi nomi della Silicon Valley, da Elon Musk a Peter Thiel, si sono avvicinati a Trump. Amodei sembra andare nella direzione opposta. È davvero un progressista? E che idea ha del ruolo dell’America nel mondo?
Rispetto alla brusca svolta a destra che caratterizza molti esponenti delle Big Tech, Amodei può sembrare un paladino di progressismo. Di certo non sostiene il selvaggio anarco-capitalismo di gente come Peter Thiel o Elon Musk, ed è lontanissimo dal cosiddetto “tecno-fascismo” che impera nella Silicon Valley. Non è un caso che si sia scontrato con il Pentagono e con l’amministrazione Trump: le loro posizioni sono molto lontane da quelle di Amodei, che infatti ha sostenuto la candidatura di Kamala Harris alle scorse elezioni presidenziali. Si tratta però di un progressismo molto “statunitense”, con una visione del mondo manichea, da liberal interventista. Per capirci: anche lui ritiene che gli Stati Uniti debbano guidare gli altri paesi “buoni” contro le autocrazie “cattive” (in particolare la Cina), mantenendo un primato tecnologico e militare. Insomma, è certamente un progressista in materia di diritti civili e rispetto delle regole, ma allineato agli interessi strategici di Washington sul piano internazionale.
Prudenza e miliardi.
A settembre ha chiesto a tutto il settore di rallentare. Intanto la sua azienda continua a lanciare sistemi sempre più potenti e giovedì 19 novembre sbarca al Nasdaq, con un valore che può arrivare a 1.400 miliardi di dollari. Si può predicare la prudenza e guidare la corsa?
Ovviamente c’è un conflitto di interessi alla base del problema. Predicare prudenza è anche un modo per mantenere il controllo sul dibattito, mostrarsi responsabili e avere voce in capitolo quando i governi discuteranno di possibili regolamentazioni. Inoltre, qualora i prossimi modelli di IA si rivelassero deludenti, le aziende potrebbero attribuire la colpa a questo rallentamento autoimposto. Non nego che possa esistere una sincera preoccupazione da parte di chi sviluppa queste tecnologie, ma l’intera narrazione sulla prudenza e sul rallentamento fa comodo alle aziende stesse.
L’America dopo il voto.
Alle elezioni di metà mandato i Democratici hanno conquistato Camera e Senato, e tra i temi della campagna ci sono stati anche l’intelligenza artificiale, i posti di lavoro e le bollette della luce, che salgono anche per colpa dei grandi centri di calcolo. Che cosa cambia adesso per Amodei, e nel suo difficile rapporto con Trump?
Potrebbe non cambiare molto, nel senso che la divergenza di opinioni con Trump rimane, e forse Anthropic resterà in attesa di un cambio di leadership alle prossime elezioni presidenziali. Un’eventuale vittoria democratica potrebbe portare una maggiore regolamentazione, e questo da un lato sarebbe più in linea con la visione di Amodei, ma dall’altro potrebbe ostacolare i piani espansionistici di Anthropic. Del resto, già ora il Congresso a maggioranza democratica può bloccare qualunque tentativo di deregolamentazione da parte dell’amministrazione Trump. Il problema inoltre è che i data center non li vuole nessuno, quindi Anthropic dovrà adottare misure per contenere il dissenso. L’azienda si è già presa carico di pagare il sovrapprezzo dei consumi elettrici in alcune aree, ma non basta. E la soluzione di costruire data center in Africa, menzionata in passato da Amodei, suona come l’ennesimo caso di colonialismo digitale.
Fidarsi.
L’azienda di Amodei è stata invitata in Vaticano alla presentazione dell’enciclica di papa Leone XIV sull’intelligenza artificiale. Alla fine del libro, però, lei scrive che oggi una via davvero etica non esiste. Di Amodei possiamo fidarci? E noi cittadini, che cosa possiamo ancora scegliere?
Esatto: allo stato attuale delle cose, non penso che una via davvero etica all’IA sia possibile, quantomeno non da parte delle Big Tech. Fra lavoratori sfruttati nel data labeling, contenuti usati per addestrare i modelli senza il consenso degli autori, e data center che consumano suolo ed energia, le controindicazioni sono troppe. D’altra parte, credo che Dario Amodei sia sincero in certe sue preoccupazioni, come pure nella fiducia che ripone nelle potenzialità benefiche dell’intelligenza artificiale. Al contempo, però, Amodei è anche alla guida di un’azienda molto potente, e deve rendere conto ai suoi soci, investitori, finanziatori e dipendenti: il conflitto di interessi è inevitabile. Noi cittadini abbiamo quantomeno il potere di interrogarci sulla questione, chiedere ai nostri governanti una legislazione che ci difenda, e magari fare scelte individuali responsabili. Evitare di contribuire all’accozzaglia di “AI slop” che impesta la rete, ad esempio, è un buon inizio. Non è però sul singolo che va fatto ricadere il peso reale delle responsabilità. Sono i governi e le istituzioni a doverci tutelare, senza connivenze con le grandi aziende.
*Lorenzo Pedrazzi, milanese, è autore, critico e giornalista culturale. Scrive su «la Repubblica» e «Screenweek», e ha collaborato con numerose testate e riviste, tra cui «Doppiozero», «Rivista Studio», «Filmidee», «Nocturno» e «BadTaste». Ha firmato articoli, reportage, racconti e podcast. Il suo lavoro attraversa cinema, cultura pop e nuovi immaginari contemporanei. Oltre ad Amodei. Una via etica per l’IA?, per Castelvecchi ha pubblicato anche Giocare con il passato. Il retrogaming tra nostalgia e dissenso.









