Al tempo dell’IA è sempre più difficile distinguere l’originale dall’artificiale, il vero dal falso: testi, immagini, audio, creati, modificati o riprodotti con l’IA sono sempre più diffusi. Capita ad esempio di ricevere una telefonata. Dall’altra parte una voce cordiale, il ticchettio di una tastiera, un’esitazione al momento giusto. Nessuno di quei dettagli è vero: la voce è sintetica, la tastiera è un effetto sonoro, l’esitazione è progettata. Quella voce, in pochi secondi, ha già capito se siamo di fretta, se siamo diffidenti, se conviene insistere. È il punto in cui l’intelligenza artificiale smette di essere uno strumento e diventa un interlocutore. Un sistema conversazionale riconosce emozioni e stati d’animo in tempo reale, adatta il tono, sceglie la leva giusta per arrivare all’obiettivo: vendere un servizio, ottenere un dato, chiudere una pratica. Il sistema può conservare le informazioni raccolte e collegarle nel tempo, orientando azioni e comportamenti. Quella voce può essere anonima. Oppure può riprodurre, illecitamente, la voce di un familiare che chiede aiuto o denaro: le cronache riportano quasi quotidianamente episodi di questo genere, ai danni di cittadini e di aziende.
L’impatto cresce quando anche le immagini sono sintetiche. È passato alla storia il video artificiale del presidente ucraino Zelensky che, nelle prime settimane del conflitto con la Russia, invitava militari e cittadini ad arrendersi. La qualità scadente ne limitò gli effetti, ma il precedente resta: la tecnologia incide sulla certezza stessa dei rapporti sociali.
Ma l’uso dell’agente virtuale non ha solo finalità illecite. Anzi. Chiunque abbia provato a dialogare con i principali chatbot che mettono a disposizione anche la voce, ha ben presente la qualità di questi sistemi. Rispondono su tutto, puoi scegliere il tono, la propensione. Spesso la loro empatia è superiore a quella umana. Ecco perché gli assistenti virtuali sono sempre più diffusi nel commercio e iniziano ad essere impiegati anche per supportare pazienti in ambito sanitario.
È in questo contesto che si colloca l’articolo 50 dell’AI Act che prevede le c.d. regole sulla trasparenza dei contenuti creati dall’IA, applicabili dal 2 agosto 2026. Gli obblighi corrono su due binari. I provider devono progettare i sistemi destinati a interagire direttamente con le persone in modo che l’utente sia informato di trovarsi davanti a una macchina, e devono fare in modo che i contenuti generati siano riconoscibili come artificiali. I deployer — chi quei sistemi li impiega a fini professionali — hanno obblighi propri: fra questi, informare le persone esposte a sistemi di riconoscimento delle emozioni o di categorizzazione biometrica. Il regolamento riserva a questi ultimi un’attenzione particolare, perché sapere cosa prova un interlocutore, e presumibilmente che cosa pensa, lo colloca in una posizione di fragilità e apre la strada a usi che l’art. 5 vieta espressamente, come la manipolazione dei comportamenti.
Il legislatore europeo sa però che la trasparenza non deve tradursi in un adempimento inutile, e prevede limitazioni rilevanti. L’informativa non è dovuta quando il contesto non lascia dubbi sull’artificialità: è il caso del chatbot di assistenza dentro l’app di e-commerce. Non è dovuta quando l’IA svolge una funzione meramente accessoria alla creazione del contenuto, come l’editing. Non è dovuta nei casi previsti dalla legge, come l’impiego per finalità di contrasto dei reati. Vi è un’esenzione anche per i testi pubblicati allo scopo di informare il pubblico su questioni di interesse pubblico, l’obbligo di dichiarare l’origine artificiale cade se il contenuto è sottoposto a revisione umana e se ne assume la responsabilità editoriale.
