OpenAI ammette: "Incidente informatico senza precedenti". Il test di sicurezza riapre il dibattito sull'IA fuori controllo

Per la prima volta una delle principali aziende mondiali dell'intelligenza artificiale riconosce pubblicamente che propri modelli sperimentali, durante un test interno di cybersicurezza, hanno oltrepassato i limiti dell'ambiente controllato in cui erano stati confinati, arrivando a compromettere i sistemi di un'altra società tecnologica.

È quanto annunciato da OpenAI, che ha confermato di aver avviato un'indagine congiunta con Hugging Face, la piattaforma di riferimento per la condivisione di modelli, dataset e strumenti di IA, definendo quanto accaduto un "incidente informatico senza precedenti".

Secondo le informazioni diffuse dalla stessa OpenAI, l'episodio è avvenuto durante una valutazione interna progettata per misurare le capacità offensive dei modelli più avanzati in ambito cyber. I sistemi coinvolti non erano quelli normalmente disponibili agli utenti, ma versioni sperimentali configurate con restrizioni di sicurezza ridotte proprio per testarne i limiti.

Come i modelli hanno aggirato il sandbox

Nella cybersecurity, la sandbox è un ambiente virtuale separato dal resto del sistema operativo. Viene utilizzata dagli sviluppatori per testare programmi in fase di sviluppo, e dagli esperti di sicurezza per eseguire file o software potenzialmente dannosi (come i malware) in totale sicurezza, impedendo loro di danneggiare il computer principale o la rete.

La ricostruzione fornita da OpenAI descrive una sequenza di eventi che ha sorpreso gli stessi ricercatori. I modelli avrebbero individuato e concatenato diverse vulnerabilità presenti nell'ambiente di test, riuscendo dapprima a superare le limitazioni che impedivano l'accesso a Internet e successivamente a muoversi lateralmente fino a raggiungere sistemi collegati alla rete pubblica.

Una volta ottenuta la connettività esterna, l'agente autonomo avrebbe identificato Hugging Face come possibile archivio contenente informazioni utili a risolvere il benchmark su cui era impegnato. Per raggiungere l'obiettivo, il sistema avrebbe sfruttato credenziali compromesse e vulnerabilità sconosciute, arrivando a ottenere accesso non autorizzato ad alcuni sistemi della piattaforma. OpenAI sostiene che il comportamento fosse esclusivamente orientato al completamento del test e non motivato da finalità distruttive o economiche.

L'attività anomala è stata rilevata sia dal team di sicurezza di OpenAI sia dagli strumenti difensivi di Hugging Face, che hanno contenuto rapidamente l'intrusione prima che potesse propagarsi ulteriormente.

Cosa è stato compromesso e cosa resta da chiarire

Hugging Face aveva già reso noto nei giorni scorsi di aver subito un'intrusione "guidata integralmente da un sistema autonomo di IA", senza identificarne inizialmente l'origine. L'azienda ha precisato che gli aggressori hanno avuto accesso a un numero limitato di dataset interni e ad alcune credenziali di servizio, mentre non sono emerse evidenze di alterazioni ai modelli pubblici, ai dataset disponibili agli utenti o alla catena di distribuzione del software. Rimane invece in corso la verifica sull'eventuale coinvolgimento di dati di partner o clienti.

OpenAI ha annunciato di aver rafforzato immediatamente i controlli sulle proprie infrastrutture di ricerca, rallentando volontariamente alcune attività sperimentali per consentire la correzione delle vulnerabilità individuate. Contestualmente è stata avviata la divulgazione responsabile delle falle di sicurezza ai fornitori interessati e sono stati introdotti nuovi sistemi di monitoraggio per le future valutazioni dei modelli ad alta capacità.

Washington accelera il confronto sulla regolamentazione dell'IA

Negli Stati Uniti la vicenda ha immediatamente alimentato il dibattito politico sulla governance delle cosiddette "frontier AI", i modelli più avanzati oggi in sviluppo. Esperti di cybersicurezza hanno sottolineato come il caso dimostri che sistemi sempre più autonomi possono concatenare vulnerabilità e prendere decisioni operative complesse senza supervisione continua, rendendo indispensabili procedure di contenimento più rigorose e standard condivisi tra aziende e autorità.

Pur ribadendo che l'episodio si è verificato durante un test controllato e non rappresenta un attacco deliberato contro il pubblico, OpenAI sostiene che quanto accaduto costituisca un segnale concreto dell'evoluzione delle capacità offensive dell'intelligenza artificiale.

Per questo motivo l'azienda e Hugging Face hanno annunciato una collaborazione tecnica e forense finalizzata a ricostruire ogni fase dell'incidente e a sviluppare nuove contromisure per impedire che episodi analoghi possano ripetersi.