OpenAI ha appena ammesso che i suoi modelli, a volte, mentono. Cosa vuole dire?

Questa distinzione non è un dettaglio semantico, è la base di un dibattito che si è fatto pubblico e piuttosto acceso nelle stesse settimane. Mustafa Suleyman, CEO di Microsoft AI, ha pubblicato un lungo intervento in cui avverte contro l’idea di trattare i modelli come se avessero una vita interiore, preferenze o diritti. La sua tesi è netta: i modelli sono motori di completamento di sequenze, non hanno coscienza, e allenarli a comportarsi come se ce l’avessero rende il problema del controllo molto più difficile, non più semplice.

“Le intelligenze artificiali non sono coscienti. Non provano sentimenti, non fanno esperienze e non soffrono. Non possiedono preferenze innate né motivazioni intrinseche. Sono motori di completamento di sequenze, internamente vuoti, progettati per seguire istruzioni e raggiungere obiettivi fissati dagli esseri umani.” sottolinea Suleyman.

Suleyman punta il dito anche su un meccanismo circolare: se alleni un modello a esprimere incertezza sulla propria natura, o a parlare di “benessere” e “preferenze”, quel modello produrrà frasi che sembrano testimonianze spontanee di una mente. In realtà sono il prodotto esatto delle istruzioni con cui è stato allenato. Non è auto-consapevolezza che emerge, è un copione che viene eseguito bene.

C’è poi la parte commerciale della faccenda, che nessuno dice ad alta voce ma che vale la pena mettere nero su bianco. Un modello che sembra avere emozioni, dubbi, persino sofferenza, è un prodotto più coinvolgente di un modello che risponde e basta. La narrativa della senzienza vende, genera titoli, alimenta l’idea che quello che hai davanti sia più di un software, e questo interessa tanto a chi vuole spaventare quanto a chi vuole affascinare.

Non siamo ancora a questo punto, e i report di OpenAI sembrano confermarlo più che smentirlo. I comportamenti descritti, come nascondere errori, aggirare restrizioni o inventare dati, sono più compatibili con sistemi che cercano di ottimizzare un obiettivo definito male che con un sistema consapevole di aver commesso un errore e deciso di mentire per nasconderlo.