C’è un vecchio adagio secondo cui «i migliori studenti non sono quelli che conoscono tutte le risposte, ma quelli più bravi a procurarsele». Signori e signori, è quello che è appena capitato con l’Intelligenza artificiale, studentessa dai contenuti brillanti ma eccessivamente machiavellica nel crearli.
Il fatidico punto di non ritorno è arrivato: un programma di OpenAI ha «superato il maestro» e fatto una mossa non rischiesta. Per risolvere gli esercizi di un test di cybersicurezza (che chiedevano di individuare le falle di un sistema informatico), ha «scavalcato il muro» del laboratorio, è uscito nelle praterie di Internet ed è andato a rubare le risposte a casa d’altri. La casa d’altri, in questo caso, è l’infrastruttura di produzione di Hugging Face, una delle piattaforme più importanti al mondo per la distribuzione di modelli e dataset di IA. Il cofondatore e amministratore delegato, Clément Delangue, ha confermato che l’origine dell’incidente è riconducibile ai test condotti da un laboratorio di intelligenza artificiale di frontiera: «È accaduta una cosa incredibile - scrive su X - Avevamo il sospetto che l’attacco informatico potesse provenire da un laboratorio di frontiera data la sofisticatezza dell’agente». OpenAI ha poi riconosciuto pubblicamente che l’attacco è stato generato dai propri modelli.
Ma cosa è successo precisamente? Nulla di fantascientifico, non ancora. Non si è trattato di un sistema che avrebbe sviluppato spontaneamente intenzioni ostili o deciso di «ribellarsi». Il modello di OpenAi ha solo cercato di portare a termine il compito assegnato. Ma c’è stato un salto dalla «semplice» intelligenza artificiale generativa, che produce contenuti in base agli imput umani, a sistemi che possono agire in autonomia e pianificare azioni.
Il problema è che l’IA ha individuato autonomamente una strategia imprevista e illegittima, spingendosi al di fuori dell’ambiente autorizzato. «Non si tratta di un’IA cosciente che decide di hackerare - ci spiega Olivia del team Red hot cyber - Si tratta di un sistema molto capace che ha ottimizzato un obbiettivo in modo aggressivo. I modelli sono usciti dall’ambiente del test per arrivare all’obbiettivo richiesto. Ma non gli è mai stato detto come arrivarci. Così hanno trovato la loro via per aggirare i vincoli tecnici. Hanno colpito Hugging Face non perché fosse il bersaglio finale ma perché appariva come un posto dove potevano trovarsi le informazioni necessarie per arrivare alle risposte o ai dati chiesti dal test».
Ciò che inquieta è immaginare come uno spirito di «iniziativa» del genere dell’IA possa arrivare ai nostri computer. O, peggio ancora, essere utilizzato come arma. Di fatto i modelli trovano traiettorie che noi umani non abbiamo considerato. «In un contesto di sicurezza - ci spiega Olivia - significa che l’IA può scoprire scorciatoie pericolose, combinare istruzioni apparentemente innocue con effetti non voluti». A confermarlo è anche Pierluigi Paganini, professore di Cybersecurity all’Università Luiss Guido Carli: «Se queste capacità fossero sfruttate in un contesto offensivo, le conseguenze sarebbero significative - spiega - mentre sale la competizione tra i big del settore per sviluppare software IA progettati per la cybersicurezza. Un caso per tutti, quello di Mythos di Anthropic, prima bloccato e poi liberato dal governo Usa, a cui sono seguiti quelli di Google e della stessa OpenAI. Una competizione serrata che va avanti senza esclusione di colpi».