OpenAI controllerà in automatico la nostra età su Chatgpt e se pensa che siamo minorenni adatterà il suo comportamento, nelle conversazioni e nelle immagini create. L’annuncio, di ieri, si applica già agli utenti Usa. Il sistema sarà esteso a noi europei “nelle prossime settimane”, nel rispetto delle leggi Ue, scrive l’azienda.
Il sistema prova a capire, con algoritmi, se dietro un account ci sia un adulto o una persona sotto i 18 anni. Parametri analizzati: da quanto tempo esiste l’account, in quali orari e con quale frequenza viene utilizzato, come cambiano nel tempo le abitudini di utilizzo, qual è l’età dichiarata in fase di registrazione.
Quando il sistema stima che un account possa appartenere a un under 18, Chatgpt attiva in automatico una serie di protezioni aggiuntive. L’esperienza viene ripulita dai contenuti ritenuti più sensibili per un pubblico giovane, come le descrizioni di violenza grafica, i contenuti cruenti, le sfide virali che possono incoraggiare comportamenti rischiosi, i role play di tipo sessuale, romantico o violento, le rappresentazioni esplicite di autolesionismo, i contenuti che spingono verso standard di bellezza estremi, diete non sane o body shaming.
In parallelo, chi dichiara esplicitamente di avere meno di 18 anni al momento dell’iscrizione riceve comunque un set di tutele dedicate, in linea con i principi che OpenAI ha codificato per l’uso dei modelli con gli under 18.
Se invece un adulto viene classificato per errore come minorenne, ha la possibilità di contestare la valutazione. Per ripristinare l’accesso completo deve però passare da una procedura di verifica dell’identità tramite selfie, gestita da Persona, un fornitore esterno specializzato in identity verification. La verifica non è necessaria per usare ChatGPT in assoluto, ma diventa il passaggio obbligato per chi vuole uscire dalla “modalità teen” applicata dal sistema.
