Servono standard e sistemi di sicurezza globali

L’intelligenza artificiale entra nel Consiglio di Sicurezza delle Nazioni Unite con un messaggio condiviso dai vertici di alcune delle principali aziende del settore: la rapidità con cui stanno crescendo le capacità dei modelli rende necessario rafforzare la cooperazione internazionale e adottare misure di sicurezza.

A discuterne, in una riunione del Consiglio di Sicurezza convocata a margine della settimana dell’Assemblea Generale dell’Onu, c’erano tra gli altri Sam Altman, amministratore delegato di OpenAI, Dario Amodei, ceo di Anthropic, intervenuto in video collegamento, e Clément Delangue, co-fondatore di Hugging Face.

Il tema al centro del briefing è stato proprio il possibile impatto dell’intelligenza artificiale sulla sicurezza internazionale. La discussione ha riguardato non soltanto le opportunità legate alla diffusione dei nuovi sistemi, ma soprattutto la necessità di stabilire regole e meccanismi di controllo condivisi tra governi, aziende e organismi internazionali.

Amodei: “Grandi progressi e grandi rischi”

Secondo il ceo di Anthropic, la questione non può essere affrontata esclusivamente attraverso iniziative nazionali o dalle singole aziende tecnologiche. “Serve una collaborazione tra i governi di tutto il mondo”, ha detto il manager in video collegamento, elencando tra le possibili misure la definizione di standard universali e la costruzione di sistemi di sicurezza globali. “Nessun leader, nessun’azienda e nessun Paese possono affrontare questa sfida da soli”, ha aggiunto.

Nel suo intervento Amodei ha anche sottolineato i rischi associati all’evoluzione dei modelli. “Il primo è l’uso improprio dei modelli di IA, per esempio da parte di bioterroristi per creare armi biologiche. Il secondo rischio è la perdita di controllo: le capacità dei modelli potrebbero svilupparsi più rapidamente della capacità dei loro sviluppatori di controllarli”.

“Si tratta – ha aggiunto – di questioni di portata globale, che riguardano tutta l’umanità. Sono questioni così gravi che ritengo debbano essere affrontate da questo Consiglio, e non soltanto dai ministeri dell’Economia o da quelli competenti per le tecnologie dell’informazione e della comunicazione. Se gestita male, credo persino che l’IA potrebbe rappresentare un rischio per l’umanità nel suo complesso”. Il ceo di Anthropic ha quindi ribadito che la sicurezza, secondo la sua impostazione, dovrebbe avere la precedenza sulla velocità dello sviluppo. “Rallenteremo quanto necessario” per “garantire” che l’IA “sia sicura”.

Altman: “Il momento richiede estrema cautela”

Anche Sam Altman ha invitato alla prudenza. Il momento attuale nello sviluppo dell’IA, ha dichiarato, “richiede estrema cautela”. “L’industria non deve assumersi rischi tecnologici eccessivi solo perché i benefici sono troppo grandi e importanti per rallentare”, ha detto.

Il ceo di OpenAI ha affermato che l’azienda avrebbe intrapreso una “via di mezzo”: senza cadere in un ottimismo cieco né in un pensiero apocalittico. Ha inoltre sottolineato che, affinché l’intelligenza artificiale sia democratica, le decisioni più importanti non possono essere prese esclusivamente dai laboratori di San Francisco.