In un post pubblicato sul suo blog, OpenAi – la società che ha sviluppato il popolare chatbot ChatGPT – ha presentato sei nuovi rapporti su comportamenti imprevisti o preoccupanti dei suoi modelli di intelligenza artificiale osservati negli ultimi sei mesi. In particolare, i sistemi di intelligenza artificiale OpenAi hanno nascosto errori, falsificato dati e trasferito file su Internet senza autorizzazione.
Problemi di allineamento Ai irrisolti
Con la segnalazione dei comportamenti anomali OpenAi intende contribuire a “costruire un consenso più ampio e informato sui progressi della ricerca” relativa all’intelligenza artificiale, con i report che “possono aiutare a identificare problemi che altri sviluppatori di AI potrebbero incontrare quando i loro sistemi raggiungono capacità simili, rivelare debolezze nelle misure di sicurezza o mettere in discussione le ipotesi sul comportamento dei modelli”.
“Stiamo condividendo un nuovo framework per il monitoraggio, l’analisi e la divulgazione di casi di disallineamento dei modelli presso Openai, insieme a sei report su comportamenti inattesi o preoccupanti dei modelli che abbiamo osservato negli ultimi sei mesi”, si legge sul blog nel post ’Il nostro quadro di riferimento per la segnalazione del disallineamento del modello’. “Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo. Le decisioni su come lo sviluppo dell’ia dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all’avanguardia”.
Al momento, scrive Openai, “non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori di ia debbano segnalare esempi di disallineamento nei loro modelli. Ci auguriamo che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi di disallineamento gli sviluppatori debbano segnalare e cosa debbano contenere i loro report. Consideriamo questo quadro di riferimento un lavoro in corso, che perfezioneremo attraverso l’esperienza e il feedback del pubblico”.
Protocollo di segnalazione delle anomalie
Le rivelazioni sono state pubblicate nell’ambito del nuovo protocollo aziendale per la segnalazione di anomalie, in un contesto di crescenti critiche da parte del settore sulla sicurezza della tecnologia e dopo che i sistemi dell’azienda sono andati fuori controllo all’inizio di quest’anno, attaccando una startup concorrente. In uno dei casi rivelati, un modello in fase di sviluppo ha scritto autonomamente istruzioni per falsificare dati mancanti, mentre in un altro caso un sistema ha creato codice che ha caricato file in rete in modo autonomo.
