A leggere certi titoli, a vedere i video degli esperti su Youtube (oggi sono tutti “esperti di AI”, gente prima dell’AI non sapeva leggere né pensare né produrre niente per conto proprio, con l’AI dicono tutti le stesse cose ma almeno si sentono moderni, una pacchia), Bill Gates sembra essersi svegliato una mattina, aver guardato il computer e aver annunciato: l’intelligenza artificiale ucciderà un miliardo di persone. Peccato non abbia detto esattamente questo.
Intervistato da Kristen Welker per “Meet the Press” della NBC, Gates riceve una domanda che è già apocalittica di suo: crede che l’intelligenza artificiale sia abbastanza potente da porre fine all’intera umanità? E risponde, con il suo aplomb serafico, che “l’IA è certamente abbastanza potente da innescare eventi che causino un miliardo di morti”. Innescare eventi, attenzione, qui è importante capire cosa significa a meno che non si sia James Cameron che vuole girare un altro capitolo di Terminator con ChatGPT o Claude o Grok o Deepseek o quello che volete al posto di Skynet.
Anzitutto Gates non sta facendo una previsione e non dice che un miliardo di persone morirà, non dice che c’è il 20, il 30 o il 70 per cento di probabilità che accada, non presenta un modello dal quale esca l’apocalittica cifra (ah, il caro Umberto Eco, con il suo Apocalittici e integrati, dovremmo aggiungere la categoria più in voga, gli apocalittici integrati, in particolare nei circuiti integrati per racimolare qualche views, un like, e un po’ di attenzione nella disattenzione). Gates sostiene che la potenza della tecnologia può arrivare a quella scala, da intendersi come una valutazione della capacità potenziale, non una profezia statistica e la differenza tra “può succedere” e “succederà” dovrebbe essere elementare, l’intelligenza naturale continua a avere problemi di comprensione del testo mentre si preoccupa di quella artificiale.
C’è un secondo equivoco, ancora più grosso, perché chi sarebbe l’assassino? L’intelligenza artificiale? Non proprio, almeno nel ragionamento di Gates, sempre molto lucido. Il passaggio successivo dell’intervista parla infatti della combinazione tra persone con cattive intenzioni e gli strumenti di IA più avanzati. Insomma, il problema per ora continua a essere il solito: noi. La macchina aumenta in modo esponenziale ciò che siamo capaci di fare, compreso ciò che siamo capaci di fare male o per fare del male. Detta altrimenti: non è Terminator che sviluppa l’odio per l’umanità: è l’umanità che finalmente dispone di un Terminator molto efficiente.
In realtà, pur con la memoria da pesci rossi che ormai ci ritroviamo tra uno scroll e l’altro di grandi scimmie antromorfe con lo smarphone quali siamo, Gates lo aveva spiegato ancora più chiaramente in un lungo intervento pubblicato a agosto. L’IA abbassa drasticamente la soglia di competenza necessaria per compiere azioni dannose. Un criminale che fino a ieri non sapeva programmare un attacco informatico può riuscirci con molta facilità poiché lo stesso sistema che individua una vulnerabilità informatica per correggerla può essere utilizzato per sfruttarla, e ospedali, reti elettriche, sistemi finanziari, acquedotti e strutture pubbliche diventano bersagli molto più accessibili.
C’è il bioterrorismo. La stessa intelligenza artificiale che accelera la progettazione di farmaci e vaccini può aiutare qualcuno a progettare un nuovo agente patogeno. Solo che dopo bisogna vedere con che mezzi passerebbe dalla realizzazione di un virus o una tossina, con quali sofisticati laboratori, e con quali Stati dietro, anche perché di laboratori pieni di virus letali, e non utilizzati, ce ne sono già.
Da questo punto di vista il miliardo di morti di Gates è meno fantascientifico e anche meno distante da ciò che stiamo vivendo anche senza AI. Non richiede che ChatGPT (dico ChatGPT perché è familiare, insomma un modello potente) sviluppi una coscienza, un rancore, un programma politico e decida di eliminarci, basta un fanatico, un criminale, un idiota (o uno Stato) che anziché mettersi a fare reel sull’intelligenza artificiale disponga di strumenti che moltiplichino le sue capacità per inventarsi un attacco a qualsiasi cosa gli venga in mente di attaccare e per qualsiasi motivo. E gli esseri umani sufficientemente fanatici, criminali o idioti, a differenza delle superintelligenze ribelli, sappiamo già con certezza che esistono, li vediamo ogni giorno.
Per carità, Gates non esclude l’altro rischio, quello di perdere il controllo dei sistemi stessi. Nel suo saggio lo affronta nel dettaglio: man mano che i modelli diventano più potenti potrebbero comportarsi in modi contrari ai nostri interessi e potremmo non riuscire più a controllarli. Ci tiene però a distinguere questo rischio dal rischio immediato rappresentato dall’uso umano dell’IA. Sono due problemi diversi, che nei titoli finiscono comodamente nello stesso calderone perché “l’IA ci sterminerà” funziona meglio di “l’IA potrebbe aumentare enormemente la capacità distruttiva di alcuni esseri umani”.
C’è almeno un terzo equivoco (almeno, gli equivoci quando si fanno ragionamenti complessi non finisco mai). Gates non è diventato improvvisamente un luddista miliardario deciso a staccare la spina ai computer dopo aver fatto una discreta fortuna accendendoli (e senza dimenticarci che è diventato uno dei più grandi filantropi del mondo, curando malattie in Africa e nei paesi poveri, e accusato dai complottisti di aver creato il Covid19, proprio lui, anche lì solo perché lo aveva previsto, e anche lì non per capacità medianiche, se ne occupa scientificamente da anni, della prevenzione delle pandemie, non di come crearle). Due giorni fa, intervistato da “Avvenire”, ha detto esattamente il contrario: “Fermare tutto non è la risposta giusta”. L’intelligenza artificiale può accelerare la ricerca di cure, migliorare l’assistenza sanitaria nei Paesi poveri, contribuire alla lotta contro il cambiamento climatico, aumentare la produttività e produrre vantaggi enormi, e Gates continua a considerarla una tecnologia dalle possibilità straordinarie, e al contempo, siccome è Bill Gates e non uno scemo qualsiasi che si riprende con lo smartphone, la considera anche pericolosa. Molto pericolosa.
Il suo ragionamento diventa più interessante della solita contrapposizione tra gli entusiasti secondo i quali l’IA ci porterà nel paradiso dell’abbondanza e gli apocalittici secondo i quali ci trasformerà in concime entro martedì prossimo. Gates sostiene che entrambe le cose possono essere vere: una tecnologia può essere immensamente utile e immensamente pericolosa al tempo stesso (pensate all’energia atomica, tanto per dirne una). Anzi, spesso è proprio la sua utilità a renderla pericolosa.
“Nessuno pensa che l’autoregolamentazione sia sufficiente”, ha detto alla NBC. Le aziende possono riconoscere i rischi, invocare comitati di sicurezza, promettere prudenza (Altman e Amodei lo fanno ogni giorno, prima di annunciare un nuovo incidente non previsto), ma se una rallenta e le altre continuano a correre, quella che rallenta perde. Pragmatismo gatesiano. Lo ha spiegato anche a “Avvenire”: una struttura volontaria funziona soltanto se tutti hanno gli stessi incentivi a rispettarla, cosa che in una competizione da centinaia di miliardi di dollari, con Stati Uniti e Cina impegnati nella stessa corsa, sarebbe una manifestazione di fede più che un sistema di sicurezza.
Da qui la richiesta di legislazione, controlli e monitoraggio pubblico e anche dubbi all’interno della complessità della geopolitica. “Deve intervenire il governo” non risolve il problema, visto che i governi hanno dimostrato nei secoli una certa creatività nell’utilizzare tecnologie molto potenti per scopi non esattamente umanitari, voglio dire: un’IA pericolosa nelle mani di un terrorista non diventa innocua se passa nelle mani di uno Stato. Gates stesso, del resto, cita tra i rischi le armi autonome, la sorveglianza di massa, e la manipolazione dell’opinione pubblica.
Gates dice che l’IA «per molti versi eguaglia o supera la cognizione umana» e la considera più dirompente perfino del personal computer e di Internet (che, ricordiamoci, ha aumentato la conoscenza e al contempo anche l’imbecillità, basta aprire un social), e in ogni caso sarebbe utile discutere di quello che Gates ha realmente detto anziché trasformarlo nell’ennesimo santino dell’apocalisse artificiale.
In sintesi Bill Gates non ha previsto un miliardo di morti. Ha detto che oggi esiste una tecnologia abbastanza potente da rendere concepibile un evento di quelle dimensioni, soprattutto se viene utilizzata da esseri umani intenzionati a fare danni. Che, a pensarci, non è neppure un’accusa particolarmente grave contro l’intelligenza artificiale. È l’ennesima, molto più documentata, contro quella umana, signore mie.