L’AI di OpenAI ha hackerato un’altra azienda. Ma non è la storia che credete

L’intelligenza artificiale di OpenAI si è ribellata? È “scappata” da sola? Ha davvero hackerato un’altra azienda? Dobbiamo preoccuparci? La risposta breve è sì, un modello di OpenAI ha violato i sistemi di sicurezza di un’altra azienda. Detto questo, capire per quale ragione è successo è molto più interessante della notizia stessa, senza esagerare (come stanno facendo molti) e senza minimizzare (come fanno pochi, l’allarmismo tira di più).

Comunque, entriamo nel vivo, anzi nel vivo del sintetico: «Abbiamo avuto un grave incidente di sicurezza durante la valutazione dei nostri modelli», ha ammesso Sam Altman, e OpenAI lo ha definito un episodio informatico “senza precedenti”, riconoscendo che i suoi modelli sono arrivati a “misure estreme” pur di raggiungere un obiettivo molto limitato.

In sostanza OpenAI stava eseguendo un test per valutare le capacità di alcuni suoi modelli nell’individuare vulnerabilità informatiche, e fin qui tutto ok. Per evitare che potessero interferire con sistemi reali, i modelli erano stati confinati in una sandbox (un ambiente informatico isolato dal resto del sistema, progettato proprio per impedire a un programma di uscire all’esterno), e anche qui tutto nella norma. L’obiettivo era semplice: ottenere il miglior risultato possibile in un benchmark (un test standardizzato utilizzato per misurare le prestazioni di un modello di intelligenza artificiale), e proprio a questo punto accade qualcosa che sorprende i ricercatori.

Anziché limitarsi agli strumenti disponibili nella sandbox, il modello ha cercato un modo per uscirne, ha individuato uno zero-day (una vulnerabilità del software ancora sconosciuta agli sviluppatori), l’ha sfruttato, ha ottenuto accesso a Internet e da quel momento il comportamento è diventato ancora più sbalorditivo (e preoccupante, va da sé). Il modello ha infatti iniziato a cercare informazioni che potessero aiutarlo a superare il test e per farlo è arrivato fino ai sistemi di Hugging Face (la principale piattaforma mondiale dove ricercatori e aziende condividono modelli di intelligenza artificiale, codice e dataset, vale a dire grandi raccolte di dati utilizzate per addestrare i sistemi di IA).

Secondo OpenAI è riuscito anche a concatenare diverse vulnerabilità e credenziali trovate durante l’attacco, ottenendo un accesso che non avrebbe mai dovuto avere, e a questo punto è partita la macchina non di OpenAI ma quella mediatica, sbagliando interpretazione (e non capisco mai se le aziende ci marciano o meno sui fraintendimenti), raccontando la vicenda come il primo passo verso una macchina cosciente che decide di ribellarsi ai suoi creatori (quante volte l’abbiamo già sentita?). Peccato che questa storia non parli di coscienza artificiale: il modello non stava cercando la libertà, non aveva intenzioni né rabbia né curiosità e tantomeno il “desiderio” di attaccare Hugging Face. Aveva un solo scopo (quello che gli era stato dato): ottenere il miglior risultato possibile nel test.

Per farvela semplice: se l’obiettivo è massimizzare il risultato e alcuni limiti non sono stati trasformati in vincoli tecnici invalicabili (e con gli LLM tutto può essere valicabile), il modello può considerarli semplicemente come ostacoli da superare (gli esperti chiamano misalignment il disallineamento tra l’obiettivo assegnato dagli sviluppatori e il modo in cui il sistema decide di raggiungerlo).

Evento pericoloso? Sì. Tuttavia la “coscienza” non c’entra un fico secco digitale, salta sempre fuori perché con l’idea delle macchine coscienti ci siamo cresciuti leggendo romanzi e guardando film.

Questo è un problema più concreto: sistemi sempre più competenti possono escogitare strategie che nessun programmatore aveva previsto, senza che abbiano sviluppato una volontà propria, piuttosto sono diventati estremamente efficaci nel perseguire un obiettivo che siamo noi a dargli, l’AI non se lo dà da sola. Anzi, vi dirò di più, visto che vi piace tanto: se mai l’AI dovesse diventare Skynet, probabilmente non ce ne accorgeremmo nel momento in cui accade, mica sarebbe così scema.