Il 18 aprile Palantir, fornitore di piattaforme di analisi dati per eserciti e intelligence in mezzo mondo, ha pubblicato un documento in 22 punti – 32 milioni di visualizzazioni – letto da molti come un manifesto politico. Ne parliamo con Michele Mezza: per il giornalista e studioso degli algoritmi, è «una nuova scena antropologica». Michele Mezza è anche docente universitario e autore di numerosi saggi. L’ultimo, appena uscito, si intitola: Guerre in Codice, come le intelligenze artificiali resettano la democrazia (Donzelli editore).
Professor Mezza, il 18 aprile Palantir – una società che fornisce piattaforme di analisi dati a eserciti, intelligence e forze di polizia in mezzo mondo – ha pubblicato sui propri canali un documento in 22 punti che molti commentatori hanno letto come un vero e proprio manifesto politico. Quanto è inedito, nella storia recente, che un’azienda di questo profilo prenda così esplicitamente posizione su cultura, valori e modello di società?
In realtà non è inedito affatto. Nel secolo scorso le imprese che davano forma al cosiddetto fordismo, cioè ad un modo di organizzare non solo la produzione seriale ma la stessa società, omologando comportamenti e relazioni, già elaboravano strategie e precetti per omologare i tratti salienti della società di massa. Negli Usa a fine ’800 prese forma un movimento, il cosiddetto partito degli ingegneri, che mirava proprio a sostituire le istituzioni democratiche con le tecnocrazie di comando ricavate dai quadri dirigenti delle aziende manageriali. In Italia, su un versante opposto, non possiamo non ricordare il fenomeno olivettiano, quando negli anni ’50 il paternalismo tipico delle grandi famiglie industriali del Nord venne declinato in una versione più illuminata e partecipativa con il movimento Comunità di Adriano Olivetti. Quello che appare del tutto sorprendente dell’interventismo dei vertici di Palantir è la cruda sincerità con cui avanzano proposte radicali che mirano a sostituire la democrazia con la tecnologia predittiva. Qui cambia la storia e si apre una nuova scena antropologica.
Uno dei passaggi più discussi sostiene che la capacità delle democrazie di prevalere richieda non più soft power e retorica, ma «hard power», e che questo hard power, nel nostro secolo, si costruirà sul software. Lei studia da anni il rapporto fra algoritmo e potere: che cosa cambia, per la sovranità democratica, quando la forza di uno Stato viene fatta coincidere con il codice prodotto da poche aziende private?
Cambia l’idea stessa di Stato. Noi sappiamo che l’istituzione dello Stato nazionale nasce proprio con il diffondersi della stampa, che dà forma e linguaggio all’opinione pubblica e fornisce una base materiale al carisma dell’autorità statuale. Con quel carisma Carl Schmitt, il grande filosofo del potere centralizzato, arrivò a legare la legittimità dello Stato alla sua capacità di proclamare lo stato di emergenza, sospendendo le prerogative democratiche e imponendo una mediazione e limitazione dei poteri privati. Oggi Peter Thiel e Alexander Karp sostengono che le tecnologie psico-sociali, quali sono quelle basate sulla profilazione di ogni individuo, devono sostituire e non supportare lo Stato, eliminando ogni impedimento pubblico ai poteri privati dei proprietari di queste tecnologie. In discussione non c’è il dominio di un monopolio ma la sostituzione di ogni istituzione pubblica con un sistema proprietario.
Il manifesto contiene anche giudizi netti – alcune culture sarebbero «disfunzionali e regressive», il pluralismo sarebbe diventato «vuoto e vacuo». Qui non parla un think tank, ma chi fornisce gli strumenti con cui si decide quali soggetti sorvegliare, quali profili segnalare, quali aree presidiare. Quanto è problematico, dal suo punto di vista, che chi costruisce l’infrastruttura della sicurezza si proponga anche come arbitro del giudizio culturale?
Non solo arbitro ma anche tutore di ogni utente. Non dimentichiamo che lo strapotere della Silicon Valley si basa sul controllo pressoché esclusivo della profilazione di ognuno dei circa 5 miliardi di utenti della rete. Sono i dati intimi di ogni individuo che hanno animato le intelligenze artificiali accelerando la corsa alla virtualizzazione dell’umanità. Dall’alto di questo potere al momento non contestato né socialmente né politicamente ci si spinge fino a pretendere uno stravolgimento culturale dell’intero Occidente, usando come pretesto la stagnazione tecnologica che i dirigenti di Palantir legano all’effetto paralizzante del pluralismo. Il nemico da rimuovere, lo spiega benissimo Peter Thiel nel suo saggio del 2004 Il Momento Straussiano, è l’Illuminismo, l’avvento della ragione come centro delle relazioni umane, e per sferrare quest’attacco si usa anche la religione nella sua versione più tenebrosa in cui si parla di Anticristo.
Palantir non è un fenomeno solo americano: i suoi sistemi sono integrati in apparati militari, sanitari e di sicurezza in vari Paesi europei, Italia compresa. C’è un tema di consapevolezza pubblica che sembra mancare. Si discute di sovranità digitale soprattutto in chiave anti-cinese, ma l’Europa ha davvero gli strumenti – politici, giuridici, industriali – per leggere e governare questo tipo di dipendenza?
L’Europa ha fatto un grande lavoro dal punto di vista legislativo, con norme, pensiamo ad esempio al GDPR per regolare la gestione dei dati, che sono obiettivamente all’avanguardia. Ma la domanda da porsi è se un fenomeno così fluido e mutevole quale la metamorfosi tecnologica sia disciplinabile e limitabile con un sistema legislativo lento e farraginoso, o piuttosto non sia indispensabile attivare forme di controllo e negoziazione sociale, mediante piattaforme pubbliche di monitoraggio e misurazione degli algoritmi che possano intervenire in tempo reale. Innescare processi negoziali darebbe corso e forza anche ad una democrazia attiva e contemporanea in grado di parlare alle generazioni digitali.
Il manifesto rivendica un ruolo della Silicon Valley nella difesa nazionale e perfino nel contrasto al crimine violento, accusando la classe politica di aver «alzato le spalle». È una cornice che, paradossalmente, presenta l’azienda tecnologica come supplenza necessaria alla politica democratica. Non c’è qui, dietro il linguaggio dell’efficienza, un rovesciamento del rapporto fra potere pubblico e potere privato che meriterebbe almeno qualche segnale di inquietudine?
Lo dicevamo prima. La filosofia di Palantir è che la tecnologia governa e decide e la politica comunica. Una visione chiaramente autoritaria che assume l’automatismo matematico come filosofia sociale, come infrastruttura relazionale. Contrastare questa visione significa non denunciare la tecnologia tout court come minaccia ma l’inverso. Civilizzare un sistema che assicura, se correttamente applicato, l’emancipazione di grandi moltitudini di individui che devono essere protagonisti e non sudditi di questi automatismi.
Lei viene da una lunga esperienza giornalistica e ha contribuito a costruire RaiNews24. Di fronte a un documento di questa portata – e ai 32 milioni di visualizzazioni che ha raccolto – il giornalismo italiano e il mondo accademico stanno facendo abbastanza per spiegare al pubblico la posta in gioco? E quali, secondo lei, dovrebbero essere oggi i contrappesi minimi – informativi, regolatori, culturali – perché il dibattito sull’IA non venga lasciato del tutto a chi ne controlla l’infrastruttura?
I giornalisti non devono predicare ma agire ed essere soggetti del processo di civilizzazione degli algoritmi mediante un’azione consapevole di intervento e riprogrammazione delle macchine. Proprio i giornalisti, come titolari di un uso professionale delle parole, del capitale semantico fondamentale per addestrare e personalizzare questi apparati, dovrebbero essere tra i soggetti negoziali dei proprietari delle piattaforme, insieme ad altre professioni, penso ai medici ad esempio. E con loro le grandi città possono essere controparti di un uso consapevole e trasparente dei dispositivi di intelligenza artificiale. Promuovere un’ampia contrattazione sociale che sfrutti la tendenza naturale al decentramento dell’informatica per maneggiare questi sistemi digitali è forse l’unica opportunità che abbiamo per rendere umanamente compatibile la potenza di calcolo con la democrazia.
