Manipolazione semantica
La seconda opzione apre un problema di manipolazione semantica che non ha precedenti nella storia della pubblicità digitale. A differenza di quanto avviene oggi, dove la pubblicità è un corpo logicamente estraneo rispetto al contenuto, nell’AI generativa essa non è più separabile dal contenuto, perché diventa parte integrante del processo generativo stesso. La pubblicità sarà incorporata direttamente nella logica con cui il sistema costruisce le proprie risposte, andando ben oltre i cosiddetti “branded content”, dove la comunicazione del brand è ben presente ma mantiene una chiara identificabilità.
Il meccanismo tecnico di implementazione è sottile. In un modello finanziato da inserzionisti, i pesi delle connessioni neurali possono essere alterati durante la fase di addestramento o di allineamento per favorire specifici risultati commerciali. La differenza non è percepibile dall’esterno, poiché la risposta mantiene la stessa forma sintattica e lo stesso registro argomentativo.
L’utente non puo distinguere pubblicità e contenuto
L’utente non ha strumenti per distinguere se la risposta è frutto di un calcolo probabilistico calibrato sull’utilità o di una funzione di costo ottimizzata per il profitto dell’inserzionista. Non c’è uno spot che interrompe il ragionamento: lo contamina dall’interno. La provocazione lanciata in uno spot recentemente trasmesso durante il Superbowl rappresenta bene come questo sistema potrebbe evolvere in futuro.
Le implicazioni di questo scenario investono direttamente la struttura cognitiva della sfera pubblica. Si sta delineando una stratificazione a due velocità non già nell’accesso all’informazione, ma nella qualità del processo con cui l’informazione viene elaborata e restituita.
Da una parte si collocheranno coloro che possono permettersi di pagare un abbonamento per sistemi che operano con l’obiettivo dichiarato di servire l’utente. Il vantaggio competitivo che ne deriva non si misura solo in velocità di elaborazione, ma in profondità e affidabilità del ragionamento assistito. Dall’altra parte ci sarà la maggioranza degli utenti, che accederà a sistemi apparentemente identici nei formati e nel registro comunicativo, ma strutturalmente diversi nella funzione: non agenti al servizio dell’utente, ma agenti commerciali mascherati da assistenti neutrali. Queste persone avranno accesso a una conoscenza curata e orientata, che produce l’illusione dell’autonomia cognitiva mentre la erode sistematicamente.
