Intelligenza artificiale, solo l’umano può salvare l’uomo

Nel giro di pochi giorni due notizie hanno attraversato le cronache internazionali sull’intelligenza artificiale, e insieme compongono un quadro che merita più attenzione della somma delle singole notizie. Dario Amodei, alla guida di Anthropic, ha pubblicato un appello in cui non chiede di fermare lo sviluppo dei modelli più avanzati, ma di rallentarne il ritmo, perché la capacità dei sistemi di migliorare se stessi rischia di correre più veloce della nostra possibilità di comprenderli e controllarli.

Quasi in contemporanea un giovane ricercatore della stessa azienda si è dimesso dichiarando che chi lavora a questa tecnologia crede sinceramente che possa mettere a rischio l’umanità intera entro la fine del decennio, e un collega ha confermato di ritenere superiore al dieci per cento la probabilità di un esito estremo nell’arco di un decennio.

La delega della responsabilità

Sono voci interne allo stesso settore che questa tecnologia la costruisce e la vende, e proprio per questo pesano più di un allarme esterno. Colpisce, in questo dibattito sospeso sul filo dell’apocalittico, come la responsabilità di salvare l’umano venga sistematicamente affidata altrove, alla tecnologia che dovrebbe fermarsi da sola, oppure ai governi che dovrebbero regolarla dall’esterno. È una forma sottile di nichilismo, non perché neghi valori, ma perché tratta la persona come una variabile fra le altre, un’esternalità da bilanciare nell’equazione fra rischio e opportunità, mentre l’estinzione, la perdita di controllo, la guerra, diventano ipotesi discutibili con lo stesso tono con cui si discuterebbe di un investimento.

L’enciclica di Papa Leone

Quando l’irriducibilità della persona smette di essere il criterio che orienta le scelte e diventa uno degli esiti possibili da calcolare, qualcosa si è già rovesciato. C’è un punto da cui ripartire, la collocazione della persona nel ragionamento, non come esito da proteggere a valle di una decisione presa altrove, ma come richiamo che deve orientare la decisione fin dall’inizio. Ha ragione chi invoca regole e verifiche indipendenti, ma la regolazione da sola resta cieca se non si dota di uno strumento che le dia direzione, ed è qui che l’enciclica di Papa Leone XIV, «Magnifica Humanitas», va esplicitata e valorizzata per ciò che offre, un criterio antropologico definitivo per misurare ogni scelta tecnologica, non un’opzione fra le altre ma un punto fermo, la persona non si sacrifica sull’altare della potenza tecnica, né si affida per intero alla prudenza di chi la governa.

Léon Harmel, imprenditore tessile e non teorico, affrontò la seconda rivoluzione industriale scommettendo che l’innovazione producesse valore solo se passava attraverso la valorizzazione del lavoro e della persona che lo compie, e Adriano Olivetti, nel dopoguerra, fece la stessa scommessa su scala più ampia, la fabbrica come luogo in cui la fioritura umana e l’innovazione coincidevano, si alimentavano a vicenda, non si contraddicevano.