Magnifica Humanitas, l'enciclica di Leone XIV "sulla custodia della persona umana nel tempo dell'intelligenza artificiale", si occupa di una questione di straordinaria attualità e lo fa nella maniera più inattuale possibile, ovvero superando gli steccati fra le discipline e le specializzazioni che inscatolano il sapere. Giorgio Parisi, Nobel per la Fisica nel 2021, racconta come, leggendola, la prima cosa a colpirlo sia stata "una convergenza molto interessante fra un Papa matematico e quello che molti fisici e informatici dicono". Parisi, che è stato premiato per i suoi "contributi rivoluzionari alla teoria dei sistemi complessi", ha appena spiegato nel suo saggio Le simmetrie nascoste (Rizzoli) "perché la fisica è alle radici dell'intelligenza artificiale di oggi e di domani".
Professor Parisi, che cosa ci dicono gli scienziati?
"Beh, Anthropic ha appena lanciato un appello per una pausa mondiale nello sviluppo dell'Ia, per il rischio di perderne il controllo. I problemi di adattamento degli esseri umani a questa tecnologia sono numerosi: come possiamo fare sì che essa sia utilizzata per l'uomo e per migliorare le capacità dei singoli, e non diventi qualcosa che ci scappa di mano?".
A che cosa pensa?
"Faccio un esempio semplice. Negli Stati Uniti stanno scomparendo i siti di ricette di cucina, perché la gente ormai le chiede all'Ia; la quale legge le ricette una volta, le memorizza e poi risponde, magari mischiandone qualcuna, ma il risultato è che le persone non guardano più i siti. E questo alla lunga è un problema, non solo per le ricette, poiché riguarda la degenerazione dell'informazione".
In che modo?
"Se tutti i siti chiudono, dove troveremo ricette nuove? L'Ia recupererà dati da altre Ia e così tutta l'informazione passerà fra loro, e le informazioni al di fuori da quelle utilizzate dall'Ia non esisteranno: questo significa un controllo assoluto dell'informazione e, che sia un monopolio o un oligopolio, comunque sarà deleterio".
Il Papa insiste molto sul rischio di un monopolio dell'Ia.
"È proprio così, un monopolio, e quello sull'informazione è il più preoccupante. Però, anche se pensiamo all'organizzazione dei pagamenti bancari, che può sembrare meno pericolosa, in realtà, è già un'arma di ricatto internazionale".
Il Papa scrive anche che una delle tentazioni dell'Ia è di far "sembrare inutile il pensiero umano proprio quando è più necessario".
"Di recente Michel Talagrand, che è un matematico di fama, mi ha detto: i matematici cominciano a imparare in un nuovo campo prima affrontando i lavori facili, poi quelli più difficili, e poi quelli ancora più difficili; ma se l'Ia svolge tutti i compiti facili, e non quelli più difficili per i quali serve ancora l'essere umano, come potranno i matematici, che non hanno svolto i lavori facili, a imparare le cose più difficili?".
Il Papa parla della "fatica necessaria per cercare la verità" e cita l'immagine di Platone delle "pietre focaie" da cui scocca la scintilla della comprensione. Pensa che senza questa fatica lei avrebbe raggiunto gli stessi risultati?
"La fatica, esattamente. Quanto a me, è difficile dire se, con l'Ia, il mio percorso sarebbe stato lo stesso, perché il modo di fare scienza, con o senza di essa, è totalmente diverso. Uno scienziato si deve formare una serie di strumenti concettuali nella propria testa, e il modo per farlo è risolvere i problemi; quindi, se li risolvo con l'Ia, c'è il dubbio che non funzioni... Non sono sicuro, ma il dubbio c'è, e penso che fare un salto del genere, senza sapere quello che succederà, sia pericoloso".
Che cosa può accadere?
"Le persone devono prima abituarsi a pensare e solo dopo sono in grado di sviluppare un pensiero autonomo, ma se non hanno la necessità di pensare, perché è l'Ia a risolvere tutti i problemi, è difficile sviluppare un pensiero autonomo. È una questione enorme di educazione nelle scuole, che dobbiamo affrontare".
Così si perde anche il gusto della scienza pura, come quella che ha praticato per tutta la vita e di cui parla nel suo libro?
"Sì, anche questo è un aspetto interessante. Il gusto non è quando ti ritrovi tutto già fatto... Vero è che oggi l'Ia è un collaboratore un po' strano, a cui dici come andare avanti, come a uno studente, e se poi diventerà più capace di proseguire in autonomia sarà diverso; però io credo che il problema non sia tanto quello che potrà accadere in futuro, quanto di agire ora, con urgenza, per regolamentarla. Non è facile, perché servono un accordo sovranazionale o trattati fra più Paesi, ma dobbiamo rimboccarci le maniche".
Può spiegare come i suoi studi abbiano a che fare con la nascita dell'Ia?
"L'Ia funziona grazie a una serie di tantissime parti che, in modo simile ai nostri neuroni, analizzano e si scambiano le informazioni. In fisica, da un secolo e mezzo, studiamo come gli oggetti composti da un numero enorme di piccole componenti, a loro volta in comunicazione con un altro numero enorme di piccole componenti, quando si trovano tutti insieme abbiano un comportamento collettivo diverso da quello delle singole parti: ecco, questi studi - di fisici, informatici e biologi - sono stati utili per sviluppare l'idea dell'Ia negli anni '80".
Qual è il problema maggiore al momento secondo lei?
"Quello del monopolio. La ricerca è diventata essenzialmente privata e le informazioni su come funzionano questi sistemi non sono pubbliche: solo i proprietari delle aziende e chi ci lavora conoscono tutti i dettagli e possono valutare davvero che cosa stia succedendo e quanto sia pericoloso. Serve un attore a livello pubblico, che possa entrare nei dettagli dell'Ia e discutere con la comunità scientifica: un grande centro pubblico a livello europeo, poiché sono necessarie grandi risorse, finanziarie e umane".
È possibile, come dice il Papa, "disarmare" l'Ia?
"Sono assolutamente d'accordo che vada disarmata e credo che sia possibile, se iniziamo a spingere in questa direzione: dipende da quanto l'opinione pubblica e i governi si convincono che sia necessario.
Non è semplice, perché ci sono forti interessi nella direzione opposta, ma il fatto che qualcosa sia difficile da ottenere non significa che non dobbiamo impegnarci per riuscirci. Specialmente se è così centrale per il nostro futuro".
