L’infallibilità dell’Ai
Forse ancora più pericolosi sono i falsi miti sul funzionamento dell’Ai, che portano a confondere la sofisticatezza tecnologica con l’infallibilità. L’ultima frontiera di una lunga tradizione che vede nel progresso della tecnica la chiave per la soluzione di ogni problema è il pensiero secondo cui l’algoritmo ha sempre ragione.
Ovviamente non è così, le intelligenze artificiali sbagliano eccome, e il fatto più insidioso è che non sanno di sbagliare. I modelli perpetuano con convinzione le castronerie statistiche che spesso producono mettendo insieme sequenze probabili, ma non certo sicure e tantomeno consapevoli. Il pericolo di ignorare questo fatto e affidarsi ciecamente alle macchine è una deresponsabilizzazione che non possiamo permetterci.
Figlia della stessa illusione è anche la convinzione che l’Ai, data la sua natura matematica, la più oggettiva delle scienze, sia imparziale o neutra.
Anche in questo caso, come ormai il lettore ha imparato a questo punto del libro, la realtà è ben diversa. L’intelligenza artificiale, come scrive Epifani, «non è altro che un sofisticato amplificatore: una cassa di risonanza che restituisce, amplificandoli, i dati che riceve». Gli output sono speculari agli input, e da entrambi i lati ci siamo noi, esseri umani fallibili, incompleti, parziali.
Superare i falsi miti
Questi falsi miti vanno combattuti non per puro amore della conoscenza, ma per motivi pratici: le convinzioni sbagliate rispetto a una tecnologia così pervasiva creano un clima culturale in cui vengono prese scelte sulla base di una percezione distorta della realtà.
