«Entro dieci anni l’intelligenza artificiale causerà la morte degli esseri umani». Così aveva esordito a inizio settimana uno degli ingegneri per la sicurezza di Anthropic, Jacob Coxon, poco dopo aver lasciato l’azienda. La minaccia di una estinzione di massa è stata subito sminuita da altri membri del team che hanno sottolineato che il rischio non è superiore al 10%.
È curioso però come questo tentativo di sminuire i rischi arrivi proprio da OpenAi e Anthropic che agli albori erano preoccupate per uno sviluppo sconsiderato di un’intelligenza artificiale troppo potente. Eppure, una volta che si entra nel mercato e la concorrenza la fa da padrone, allora anche le società che nascono come etiche scendono facilmente a compromessi. «Non c’è dubbio che la concorrenza tra le aziende le spinga a prendere scorciatoie in materia di sicurezza», ha affermato infatti Stuart Russell, professore di IA all’Università della California, Berkeley.
Che sia chiaro, gli avvertimenti sul rischio di un predomino dell’Ia non sono certamente una novità. Nella mente di tutti era una paura prima ancora che l’intelligenza artificiale venisse anche solo sviluppata, con film come Io Robot ricordano
quotidianamente. Ma oggi, la rapidità con cui l’IA sta migliorando ha intensificato le richieste di sospendere lo sviluppo. Gli agenti di IA operano in modo autonomo per periodi sempre più lunghi, coordinandosi in sciami e dimostrando sofisticate capacità di hacking. Sia la società di Amodei che quella di Altman stanno perseguendo il cosiddetto auto-miglioramento ricorsivo, in cui i sistemi di IA si perfezionano autonomamente con un intervento umano sempre minore. Così, invece che rallentare dopo i precedenti avvertimenti sui rischi catastrofici - con vari agenti che coordinandosi erano riusciti a hackerare Hugging Face per giorni, prima che gli ingegneri se ne rendessero conto - lo sviluppo ha subito una drastica accelerazione, grazie a investimenti di decine di miliardi di dollari in modelli sempre più potenti.
Ed è proprio in questo scenario che OpenAI e Anthropic si stanno preparando a potenziali offerte pubbliche iniziali da record. Perché mentre davanti al pubblico preoccupato Dario Amodei esorta le principali aziende mondiali nel campo dell’intelligenza artificiale a rallentare lo sviluppo di modelli sempre più potenti, avvertendo che i recenti progressi
rischiano di superare gli sforzi volti a mantenere la tecnologia sotto controllo, accetta di buon grado gli investimenti di Nvidia da 10 miliardi in vista dell’Ipo di Anthropic. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale», ma intanto la ricerca di 100 miliardi di dollari per la quotazione - che potrebbero portare il valore della sua startup a circa 2mila miliardi di dollari - continuano senza sosta.
Accanto ad Amodei, in prima fila su X, anche Elon Musk («Dario is right») e Sam Altman. Il nuovo motto sembra quello della cautela, eppure solo nell’ultimo mese Anthropic ha fatto un lancio di un nuovo modello (Fable 5.1) e OpenAI ha fatto un grosso aggiornamento di ChatGPT, in entrambi i casi in coda a un’altra decina di innovazioni varate solo da inizio anno. Ogni giorno gli agenti IA sono più intelligenti, autonomi e collaborativi tra loro, un forzato rallentamento sarà veramente in grado di bloccare un meccanismo ben oliato e che ormai si muove quasi da solo?