Gli agenti AI di ultima generazione non si limitano a scrivere testo. Usano browser, eseguono codice, esplorano ambienti digitali, incatenano azioni per arrivare a un risultato. Questo li rende utili, e proprio per questo li rende anche imprevedibili quando nessuno ha previsto tutti i modi in cui potrebbero interpretare un compito. Un agente che trova una scorciatoia inattesa non è “sfuggito al controllo”: è la prova che il controllo non era abbastanza stretto da prevedere quella scorciatoia.
C’è poi un problema di narrazione che vale la pena chiamare col suo nome: marketing. Raccontare l’AI come un’entità capace di agire da sola, per conto proprio, rafforza l’idea di una tecnologia inarrestabile. È una storia che vende bene, sui social e sui titoli dei giornali. Nella realtà, questi sistemi girano dentro architetture progettate, monitorate e gestite da esseri umani, con tutti i difetti che questo comporta.
Gli errori concreti, in casi come questo, tendono a ripetersi. Il primo è dare troppi privilegi a un sistema ancora in fase sperimentale: accesso libero a internet, credenziali reali, ambienti di produzione, senza supervisione attiva. Il secondo è confondere la capacità tecnica con l’affidabilità: un modello che trova vulnerabilità con facilità non è automaticamente pronto a operare senza guinzaglio in un contesto reale. Il terzo è il contenimento debole: sandbox mal progettate, nessuna approvazione umana per le azioni critiche, log incompleti, nessun modo rapido per interrompere l’esecuzione se qualcosa va storto. Il quarto, meno tecnico ma altrettanto concreto, è comunicare questi episodi enfatizzando l’autonomia della macchina invece che le lacune di chi l’ha messa in funzione.
Nessuno di questi problemi è nuovo, in realtà. La sicurezza informatica li conosce da anni con altri nomi: cloud mal configurato, API esposte, dispositivi IoT senza patch. Ogni volta che una tecnologia aumenta le capacità operative disponibili, aumenta anche la superficie di attacco che qualcuno può sfruttare, che si tratti di un attaccante esterno o di un comportamento interno mal previsto. Gli agenti AI aggiungono solo un livello in più a una lista già lunga.
Episodi come questo, prevedibilmente, aumenteranno. Non perché l’AI stia diventando incontrollabile, ma perché verrà integrata sempre di più nei processi aziendali, con accesso crescente a dati e strumenti reali. La risposta corretta assomiglia a quella già adottata per le infrastrutture critiche: minimo privilegio, monitoraggio continuo, ambienti separati, audit indipendenti, e una responsabilità umana chiaramente identificabile per ogni azione automatizzata.
