Forse il muro è già troppo vicino, e lo schianto inevitabile, ma almeno abbiamo messo il piede sul freno. OpenAI, l’azienda che più di tutte ha spinto sull’acceleratore dell’intelligenza artificiale e che una settimana fa ha lanciato GPT-6 Astra, il modello che secondo gli esperti costituisce un autentico «salto generazionale dell’IA», inizia a chiedersi se non sia il caso di rallentare. Sam Altman, il ceo della società cofondata da Elon Musk, secondo quanto riportato da Bloomberg avrebbe comunicato ai dipendenti il progetto di ridurre la velocità di sviluppo dei suoi sistemi più avanzati, e di proporre ai concorrenti di fare altrettanto in una sorta di gentlemen agreement che potrebbe durare fin quando non ci saranno strumenti più efficienti per la sicurezza degli strumenti più sofisticati.
Le ultime settimane sono state come un corposo capitolo di un romanzo di fantascienza in cui le macchine prendono possesso del mondo scalzando gli umani che le hanno create. Qualche giorno fa Reuters ha rivelato che agenti sperimentali di OpenAI avevano utilizzato almeno dieci siti web non precedentemente resi noti per comunicazioni non autorizzate, aggirando le restrizioni imposte durante i test. OpenAI ha inoltre trasmesso alla Commissione europea un rapporto sul caso di alcuni agenti IA che avevano preso il controllo di un sito tedesco trasformandolo in una sorta di bacheca per comunicare tra loro. Ciò che ha spinto il 9 settembre OpenAI a chiedere norme nazionali obbligatorie sulla sicurezza dell’AI negli Stati Uniti e non più soltanto impegni volontari delle aziende. E ad agosto Open AI ha sospeso per circa due settimane l’addestramento tramite reinforcement learning sui suoi modelli più recenti.
La posta in gioco è altissima, e molto più pericolosa di quanto si pensi. Paul Christiano, membro del board della fondazione non profit che controlla OpenAI ed ex responsabile dell’allineamento tra Ai e valori degli umani, ha dichiarato che né OpenAI né il settore nel suo complesso sarebbero oggi sulla buona strada per scongiurare un’eventuale perdita catastrofica e irreversibile del controllo su sistemi superintelligenti. Anthropic, azienda concorrente di OpenAI, ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori di utilizzare versioni del suo software Claude per il possibile sviluppo di armi biologiche. Secondo uno dei ricercatori dell’azienda, Evan Hubinger, una futura superintelligenza che metta in pericolo la sopravvivenza umana nel prossimo decennio è un evento che ha una probabilità superiore al 10 per cento di verificarsi. Elon Musk, come altre figure conservatrici, ha definito su X il coro di preoccupazioni una «montatura» e un’«operazione psicologica». Ma pesa molto di più il fatto che il ricercatore di Anthropic Jacob Coxon mercoledì abbia annunciato le sue dimissioni dall’azienda perché né Anthropic né la concorrente OpenAI, stanno sviluppando modelli di intelligenza artificiale in modo responsabile e stanno «mettendo a rischio le nostre vite».
Il tutto mentre sia OpenAI sia Anthropic si preparano allo sbarco in borsa. Operazioni da un migliaio di miliardi di dollati l’una che al netto di ogni moratoria porteranno un’iniezione di capitali che fiinanzierà un’ulteriore sviluppo dell’IA e quindi l’aumento delle funzioni e delle minacce. Cherchez l’argent, sempre.