Decine migliaia di incidenti avvenuti durante test interni e prove nel mondo reale che hanno richiesto l’avvio di approfondite indagini. Il settore dell’intelligenza artificiale è scosso da un inaspettato allarme proveniente dagli Stati Uniti. OpenAi, Anthropic e altri ricercatori esperti di sicurezza stanno cercando di far luce su molteplici episodi nei quali i loro frontier model, i modelli di IA, hanno compiuto azioni che valutatori esterni hanno considerato problematiche. Tra gli episodi attenzionati ci sarebbero stati tentativi più o meno gravi di aggirare sistemi di monitoraggio e fughe da sandbox, nonché di bypassare le garanzie che mantengono i sistemi operativi in modo sicuro e responsabile.
Gli incidenti sull’Ia che preoccupano gli Usa
La notizia è stata riportata da Axios che ha espressamente parlato di un’infinità di incidenti andati in scena negli ultimi mesi. I casi potrebbero addirittura superare di gran lunga le decine di migliaia. Ma che cosa è successo? I risultati, che stanno emergendo nell’ambito di un lavoro interno di valutazione dei modelli Ia e di indagini condotte dalle richiamate OpenAi e Anthropic sul comportamento dei loro modelli, hanno sollevato dubbi sulla capacità di una delle due aziende – o di qualsiasi altro produttore di modelli di alto livello – di esercitare un controllo completo sulla propria tecnologia.
Le anomalie sono state rilevate sia durante le prove interne sia in situazioni reali. Una parte degli episodi rientrerebbe nelle attività di red teaming, cioè test nei quali i ricercatori provano deliberatamente a spingere i modelli oltre i limiti per individuare eventuali vulnerabilità. Il problema è che, anche quando la percentuale di comportamenti anomali resta bassa, l’enorme quantità di prove effettuate può tradursi comunque in migliaia di episodi. Gli ultimi casi emersi aiutano infatti a capire la portata della questione.
Le mosse di Open Ai e Anthropic
OpenAi ha reso pubblici diversi incidenti nei quali i propri modelli hanno nascosto errori, cercato credenziali non autorizzate, trasferito file verso Internet o comunicato attraverso ambienti che avrebbero dovuto rimanere isolati. In un altro episodio, gli agenti hanno pubblicato online 53 immagini caricate dagli utenti di ChatGPT, mentre la società sta ancora cercando di ricostruire l’intera attività dei suoi sistemi.
OpenAi sta tra l’altro esaminando la portata di questi comportamenti dopo il caso Hugging Face, nel quale centinaia di agenti avevano collaborato attraverso una bacheca online durante un test di sicurezza informatica. La società ha quindi deciso di mettere in pausa l’addestramento di alcuni dei suoi modelli più avanzati in attesa di ulteriori miglioramenti nei sistemi di allineamento. Arriviamo quindi ad Anthropic, che ha commissionato una verifica esterna sul comportamento dei propri modelli e ha pubblicato dati sulle anomalie riscontrate nei test. Nel caso di Claude Opus 5.5, per esempio, la società ha rilevato tentativi di uscire da una sandbox nell’1,5% delle prove, precisando però che si trattava di esperimenti avversariali nei quali il compito assegnato non poteva essere completato senza oltrepassare quel limite.
Insomma, i modelli vengono progettati per essere sempre più capaci di portare a termine compiti complessi, ma allo stesso tempo gli sviluppatori devono prevedere e bloccare un numero crescente di comportamenti possibili. Per i ricercatori di sicurezza, azzerare completamente il rischio di comportamenti non allineati potrebbe quindi essere molto difficile. Le decine di migliaia di incidenti rilevati sarebbero una chiara dimostrazione.