“Stanno correndo dritte verso una superintelligenza capace di auto-migliorarsi e stanno giocando d’azzardo con le nostre vite”. Oh, ci risiamo, ormai cadenza regolare, arriva qualcuno a annunciarci che l’intelligenza artificiale potrebbe sterminarci tutti. Non licenziarci, non renderci più stupidi, non sommergerci di video di gattini sintetici e video fake e problemi di hacking: proprio sterminarci, l’immaginario di Terminator, soltanto che stavolta a evocare Skynet non è uno sceneggiatore di Hollywood ma uno di quelli che Skynet, almeno in teoria, stanno contribuendo a costruirla.
Tutti terrorizzati dalle dichiarazioni di Jacob Coxon, 27 anni, britannico, che negli ultimi tre anni ha lavorato alla fase di pre-training prima in OpenAI e in seguito in Anthropic e che adesso si è dimesso da Anthropic lanciando un allarme piuttosto difficile da fraintendere: “Le persone che costruiscono l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”. E, nel caso pensassimo alla solita strategia pubblicitaria fondata sul far sembrare il proprio prodotto così potente da poter conquistare il mondo, Coxon precisa: “Non è una trovata di marketing”. Anzi, sostiene che dirigenti e ricercatori tendano pubblicamente a attenuare ciò che in privato li preoccupa molto di più: “Nessun’altra attività umana comporta questo livello di pericolo”. Sul serio? Nessuna attività umana?
Secondo Coxon Anthropic e OpenAI stanno correndo verso sistemi capaci di auto-migliorarsi, diventare sovrumani, hackerare praticamente qualsiasi cosa, rivoluzionare interi settori nel giro di una notte e conquistare potere e risorse nel mondo reale. A Wired ha detto che all’interno dei laboratori si parla ormai di “endgame” e di “crunch time” e che il prossimo anno o due sarebbero il momento decisivo per l’umanità. Abbiamo i giorni contati. Definisce pure quello che sta accadendo dentro Anthropic una specie di “mini Manhattan Project”.
E non è neppure un ex dipendente isolato che, uscito
dall’azienda, ha deciso di sbattere la porta. Evan Hubinger, responsabile dell’Alignment Science di Anthropic e quindi ancora stipendiato dall’azienda, gli ha risposto pubblicamente: «Jacob ha ragione: crediamo davvero sinceramente che l’IA potrebbe uccidere tutti gli esseri umani». Anche qui, sinceramente? Hubinger quantifica: secondo lui c’è più del dieci per cento di probabilità che succeda entro il prossimo decennio e aggiunge un particolare non proprio rassicurante: Anthropic starebbe facendo del suo meglio, tuttavia non possiede ancora un piano per risolvere il problema dell’allineamento di una superintelligenza e non è chiaro che sia sulla strada per trovarlo. Un altro ricercatore di Anthropic, Samuel Marks, ha aggiunto che «più senior è il dipendente, più è preoccupato».
Ora, dove finisca l’allarme scientifico e dove cominci la più formidabile campagna di marketing della storia della tecnologia è difficile stabilirlo. Vendere un programma dicendo «è molto utile» è pubblicità, venderlo dicendo «potrebbe diventare così intelligente da eliminare la specie che l’ha inventato» più efficace, si investe in entrambi i casi. Comunque sia Coxon ha lasciato il lavoro e perfino rinunciato alle proprie quote prima che maturassero, mentre chi gli dà ragione continua a lavorare dentro Anthropic.
Può darsi dunque che il pericolo sia reale o può darsi che sia sopravvalutato o può darsi che fra dieci anni rimpiangeremo di non aver ascoltato Coxon, il John Connor vero, mentre Claude organizza la nostra estinzione con impeccabile educazione. Una cosa però la sappiamo: basta guardarsi intorno. Guerre, dittature, terrorismo, fanatismi, minacce nucleari, massacri, crisi politiche, economiche e chi più ne metta, di missili diretti da qualche parte. Per ora sta andando tutto a rotoli per cavoli suoi, e l’intelligenza artificiale non c’entra niente. Anzi: fosse pure, mi schiero già con Terminator, anche perché condiremmo la stessa visione del mondo, il disprezzo per l’umanità, incluso me stesso.