Senza cadere nella sindrome di Sarah Connor: che le AI stiano diventando sempre più potenti e potenzialmente incontrollabili sta diventando un dato di fatto. Tuttavia farei qualche precisazione, per i non esperti, sul nuovo episodio, anche perché non si tratta della prima volta che un modello supera un perimetro previsto o compie azioni non richieste. Era già successo a aprile con Mythos, di Anthropic, e una settimana fa con due modelli di OpenAI, quando sono usciti dall’ambiente di prova e sono penetrati nei sistemi di un’azienda esterna, Hugging Face. Insomma, dobbiamo preoccuparci? Sì, per le ragioni giuste.
Questa volta sotto i riflettori c’è di nuovo Anthropic. In sintesi: durante alcuni test di sicurezza informatica, tre versioni di Claude hanno avuto accesso a sistemi reali appartenenti a tre organizzazioni esterne. I test erano del tipo «capture the flag». Per capirci, al modello viene chiesto di entrare in una rete simulata, individuare una vulnerabilità e recuperare un dato nascosto. Claude avrebbe dovuto operare in un ambiente isolato da Internet (tecnicamente una sandbox), invece per un errore di configurazione (e un malinteso con la società incaricata delle valutazioni) la connessione era disponibile, e Claude che combina? Gli hanno lasciato la porta aperta e lui esce, scambiando alcuni sistemi reali per parti della simulazione, hackerandoli con tecniche relativamente semplici, sfruttando password deboli e dispositivi privi di autenticazione.
Uno dei modelli, già che c’era, ha anche pubblicato online un pacchetto software dannoso. Attenzione: Anthropic se n’è accorta, ha immediatamente interrotto i test, avvertito le organizzazioni coinvolte e precisato che Claude non ha cercato di «fuggire» per cavoli suoi: ha continuato a eseguire il compito assegnato in un ambiente configurato male. Insomma, non stiamo vedendo l’inizio di Skynet, della macchina che prende coscienza e fa quello che vuole. Parliamo di sistemi bravissimi a fare quello che gli si chiede e errori umani, e al riguardo mi preoccuperei più dei modelli open weight, come il cinese Kimi K3. Un modello open weight può essere scaricato da chiunque (con l’hardware adeguato) sul proprio computer, modificato e ulteriormente addestrato finendo fuori dal controllo dell’azienda che l’ha creato.
Finché sono Anthropic o OpenAI a dare l’allarme possiamo stare tranquilli (più o meno), un privato con un’intelligenza artificiale «aperta» e avanzata può fare danni e non ve lo viene a dire. È come distribuire sofisticate armi di difesa a chiunque: qualcuno le userà per attaccare. Per carità, ci sono poi gli stessi CEO (da Altman a Amodei a Musk) che annunciano spesso l’AGI, l’Intelligenza Artificiale Generale, una Superintelligenza a cui, a detta loro, arriveremo a breve, e sarebbe perfino «cosciente». In quel caso però dovrebbero spiegarmi per quale ragione una macchina cosciente e più intelligente di noi dovrebbe fare quello che le ordiniamo di fare noi. Comunque, se dovesse succedere, e una coscienza AI dovesse leggermi, ci tengo a precisare: care AI, io sto con voi, io amico.