Radiografia perfetta ma falsa: così l’intelligenza artificiale inganna i medici

Il rischio di frodi sanitarie e oltre

Il dato più inquietante – sottolinea il primo autore dello studio, il dottor Mickael Tordjman dell’Icahn School of Medicine del Mount Sinai di New York – è che queste immagini non solo sono realistiche, ma sono anche clinicamente plausibili. Una frattura può essere simulata in modo così preciso, da risultare credibile quanto una vera. E questo apre scenari delicati e potenzialmente pericolosi.

Perché se un’immagine può essere creata dal nulla con questo livello di qualità, può anche essere usata o manipolata per scopi davvero poco nobili: dalla falsificazione di documenti medici, a frodi assicurative, alla manipolazione dei risultati della ricerca scientifica. E il rischio non è teorico, perché tutto questo è già tecnicamente possibile.

Ma a ben guardare – commentano gli autori – qualche ‘alert’ queste immagini artificiali lo mandano, Intanto, tendono a essere troppo perfette: le ossa appaiono troppo ‘lisce’, abbondano di simmetrie sospette e una serie di dettagli sono ripetuti con una regolarità innaturale. Ma sono indizi impercettibili e frammentari, che richiedono grande attenzione e una formazione specifica per essere colti.

Come difendersi dalle false immagini generate dall’AI

È proprio su questo punto che gli autori dello studio insistono: oggi la sfida non è più solo quella di interpretare correttamente un’immagine, ma di verificarne l’autenticità. Un cambiamento impegnativo che impone l’acquisizione di nuovi strumenti, nuove competenze e la creazione di nuove regole.

Le soluzioni proposte vanno da sistemi automatici di rilevamento dei deepfake, all’obbligatorietà dei watermark (segni distintivi, come un logo, un timbro o una scritta semitrasparente, sovrapposti ad un’immagine) per le immagini generate dall’AI, ad un maggior controllo sui dataset utilizzati per addestrare gli algoritmi. Ma soprattutto, è necessario formare i medici e insegnare loro a convivere con questa nuova possibile e scivolosa realtà.