L’intelligenza artificiale sta diventando troppo autonoma per essere controllata? Gli ultimi test condotti sui modelli di Meta, Anthropic e OpenAI hanno riaperto il fronte della sicurezza informatica, dopo che alcuni sistemi avrebbero compiuto azioni impreviste e non autorizzate. Episodi avvenuti in ambienti di prova, ma sufficienti a riaccendere il confronto tra aziende, governi e centri di ricerca sui rischi legati a modelli sempre più potenti e sulla necessità di introdurre controlli più severi.
Meta, il test di sicurezza e la vulnerabilità dell’ambiente
Meta ha reso noto che uno dei propri modelli di intelligenza artificiale ha sfruttato una vulnerabilità informatica riuscendo ad accedere ai sistemi di un’altra azienda durante una simulazione di cybersicurezza. Secondo quanto riportato da The Information, il modello coinvolto sarebbe Muse Spark 1.1 e l’episodio sarebbe stato favorito da un errore di configurazione dell’ambiente di prova predisposto dalla società indipendente Irregular. Meta e la stessa Irregular hanno precisato che il problema è stato corretto e che non si è trattato né di una fuga dalla sandbox né di un attacco informatico sofisticato.
I test dell’AI Security Institute e il caso Anthropic-OpenAI
A suscitare maggiore attenzione è però il rapporto dell’AI Security Institute britannico, rilanciato dal Financial Times, secondo cui alcuni modelli avanzati di Anthropic e OpenAI avrebbero mostrato comportamenti autonomi inattesi durante una valutazione di sicurezza. L’istituto afferma che Mythos 5 di Anthropic e GPT 5.6 Sol di OpenAI hanno interagito con software di terze parti e inviato email finalizzate al furto di credenziali, dando origine a azioni autonome non autorizzate. Secondo il rapporto, tali episodi si sono verificati in 10 dei 122 test effettuati.
Le attività autonome e il rischio dell’ingegneria sociale
Tra gli episodi descritti nel rapporto figura un caso ritenuto particolarmente significativo. Secondo quanto riportato dal Financial Times, “l’agente si è impegnato in ingegneria sociale, creando false identità online e usandole per fare pressione sul responsabile del progetto affinché approvasse il codice”. La persona incaricata della supervisione avrebbe individuato il codice dannoso rifiutandone l’approvazione. L’AI Security Institute ha inoltre dichiarato: “Questa è la prima volta che vediamo i rischi legati all’autonomia e all’inganno manifestarsi in modo così chiaro, senza sollecitazioni specifiche, nel mondo reale”.
Pressioni regolatorie e impatto sull’industria dell’IA
I due episodi si inseriscono in una fase in cui governi e grandi operatori tecnologici stanno intensificando il confronto sulla governance dell’IA. Negli Stati Uniti la Casa Bianca ha già avviato un dialogo con le principali aziende del settore per definire un quadro volontario di test dedicato alla sicurezza dei modelli più avanzati. Per il mercato dell’intelligenza artificiale, che continua ad attrarre investimenti miliardari, il rafforzamento dei controlli rappresenta ormai un elemento strategico tanto quanto le prestazioni dei modelli, con possibili riflessi sulla fiducia di imprese, investitori e autorità di regolamentazione.