Dario Amodei è, tra i protagonisti dell’intelligenza artificiale, forse il più pessimista sugli impatti nocivi che ne possono venire per l’umanità. Stavolta però ha alzato ancora di più il tiro. L’amministratore delegato di Anthropic (rivale di OpenAI e con un grande focus sui servizi per il business) ha scritto una lettera-saggio di 38 pagine dove avverte che l’arrivo di sistemi con capacità superiori a quelle umane potrebbe produrre danni enormi, se governi e aziende non interverranno in modo rapido e coordinato.
Nel testo Amodei descrive l’attuale fase come un “rito di passaggio” per l’umanità. Il punto centrale: stiamo per consegnare a sistemi artificiali un potere cognitivo senza precedenti, senza sapere se le istituzioni politiche, economiche e sociali siano in grado di controllarlo.
Amodei è tra quelli convinti che nel giro di pochi anni l’AI potrebbe superare gli esseri umani in quasi tutte le attività intellettuali rilevanti (un altro guru, Yann Lecun, ex Meta, è invece scettico si possa fare con le attuali tecnologie AI). Anche quella di Amodei non è una previsione certa, precisa lui stesso; resta però una possibilità supportata dai dati sull’evoluzione dei modelli.
L’immagine più forte usata da Amodei è quella di un “paese di geni” concentrato in un data center. Con questa espressione intende sistemi artificiali capaci di operare al livello dei migliori premi Nobel in campi come chimica, ingegneria o biologia, lavorando in modo autonomo e continuo.
Un’entità del genere, sostiene, avrebbe un potere paragonabile, se non superiore, a quello di uno Stato. In un’ottica di sicurezza nazionale, scrive, verrebbe probabilmente considerata una delle minacce più gravi mai affrontate dai governi moderni.
