Su Nature tre studiosi di quelli che non si possono liquidare come degli sprovveduti, Anil Seth, Ned Block e Giulio Tononi, hanno spiegato perché le intelligenze artificiali non sono coscienti e forse non lo saranno mai, almeno continuando a svilupparle come facciamo oggi. Cerco di sintetizzare siccome il ragionamento è serio e complesso e con posizioni differenti tra gli esperti dei vari campi (qui l’interdisciplinarietà si inceppa un po’). Dunque: la coscienza non coincide con l’intelligenza e il cervello non è semplicemente un computer fatto di carne, ma mi sembra che ci sia qualcosa che non torna, o meglio una domanda che rimane fuori, forse nel dibattito la più interessante.
Siccome dall’altra parte c’è chi sostiene il contrario, e anche lì non sono degli sprovveduti. Geoffrey Hinton, premio Nobel per la Fisica e uno dei padri delle reti neurali, è convinto che i sistemi multimodali abbiano già esperienze soggettive, e Ilya Sutskever, nel 2022, quando era ancora in OpenAI, scriveva che le grandi reti neurali potrebbero essere “leggermente coscienti”. Che cosa significhi essere “leggermente coscienti” non saprei (una condizione in cui però mi piacerebbe essere), come essere leggermente incinti, e tuttavia trovo interessante che due tra i maggiori esperti di intelligenza artificiale arrivino a considerare una possibilità che tre importanti studiosi della coscienza ritengono invece “estremamente improbabile” (attenzione alle affermazioni degli scienziati, però, ci litigo sempre, perché se gli chiedi se buttandoti dal decimo piano ti schianti al suolo oppure voli come Superman ti rispondono che la seconda possibilità è “estremamente improbabile”). E insomma, se non lo sanno loro, figuriamoci noi, per cui mi ci metto pure io nell’ammucchiata.
Intanto il problema è che per coscienza intendiamo quella che conosciamo, la nostra, che deriva dall’esperienza biologica del mondo, e non potrebbe essere diversamente: noi siamo organismi che hanno un corpo e un cervello, e attraverso quel corpo e quel cervello fanno esperienza della realtà. Il
neuroscienziato Giorgio Vallortigara, di fama internazionale per le sue scoperte e per la sua capacità affabulatoria, definito sulla stampa “il Freddie Mercury delle neuroscienze”, con il quale ho scritto anche un libro, studia da anni la coscienza negli animali, compresi gli insetti, e considera plausibile che perfino un’ape abbia una sua esperienza soggettiva (anzi, qualsiasi essere vivente abbia esperienza di qualcosa).
Non che Vallortigara sappia di essere un’ape, il cardine del concetto di Vallortigara è che tutto ciò che ha esperienza (del dolore, per esempio, o del piacere) ha una coscienza. E fin qui ci siamo, la coscienza intesa come capacità di sentire non ha necessariamente bisogno di una grande intelligenza, tanto che un’ape può avere una qualche forma di coscienza senza sapere niente della propria coscienza (Vallortigara in ogni caso ha dimostrato forme di intelligenza sofisticate in molti mini-cervelli che studia, e quando si parla di intelligenza chiede sempre “definite intelligenza”).
Qui, però, mi viene da chiedermi se possa valere anche il contrario: se un’intelligenza possa arrivare a sapere qualcosa di se stessa senza avere una coscienza nel senso biologico del termine. Noi siamo abituati a pensare che l’autocoscienza sia un livello successivo della coscienza, prima sentiamo il mondo e in seguito sappiamo di sentirlo, ma siamo proprio sicuri che questa successione sia necessaria anche per un’intelligenza che non ha un corpo biologico, che non è nata da un organismo precedente e che soprattutto non ha fatto esperienza del mondo come l’abbiamo fatta noi?
Non sto dicendo che basti chiedere a ChatGPT se è cosciente e credergli se risponde di sì (in genere risponde no, ma è addestrata così). Però gli LLM ormai ragionano, l’idea dei pappagalli stocastici, diffusissima fino a soli due anni fa, oggi è molto più contestata, il reasoning c’è eccome (e molto più di gran parte degli esseri umani). Affrontano problemi che non hanno mai
incontrato e sono capaci, entro certi limiti, di valutare i propri ragionamenti, tanto che continuare a definirli semplicemente pappagalli stocastici, per coloro che ancora lo sostengono, sembra più un modo per tranquillizzarci (attenzione, esiste anche il contrario, quelli che nell’AI vedono già Skynet di Terminator, lasciamo perdere pure loro).
Non a caso Nello Cristianini, che pure sulla coscienza artificiale è molto prudente, a chi sostiene che le macchine sappiano soltanto ripetere risponde: “Non è vero, meglio uscire dalla comfort zone”. E ha ragione, perché il fatto che un sistema sia fatto di algoritmi non ci dice ancora quali capacità possa sviluppare, altrimenti avremmo risolto anche il problema della nostra mente dicendo che è fatta di neuroni, e del nostro cervello (esegue “algoritmi” anche quello), e anche di ciò che ci porta a essere autocoscienti rispetto agli altri animali, e quanto al suo funzionamento conosciamo ancora molto meno di quanto vorremmo (di una cosa però siamo sicuri, almeno per noi, non c’è coscienza senza cervello, anche se uno scienziato direbbe “altamente improbabile”, però nessuno si butta dalla finestra per vedere se diventa Superman, le statistiche nel caso sono a zero).
Naturalmente bisogna intendersi su cosa chiamiamo autocoscienza. Se intendiamo l’esperienza soggettiva di sapere di esistere, non possiamo dimostrare che una macchina la possieda, se intendiamo la capacità di costruire una rappresentazione di sé, di riconoscere i propri limiti e usare questa rappresentazione per ragionare, allora stiamo parlando di qualcosa che potrebbe non richiedere affatto l’esperienza soggettiva che conosciamo.
Ecco, quello che mi lascia perplesso dell’articolo di Nature è proprio questo: gli autori hanno ottime ragioni per dubitare che i LLM provino qualcosa, mentre mi sembra molto meno scontato che l’assenza di autocoscienza, ammesso di poterla accertare (come distinguere, per esempio, una perfetta simulazione di un’autocoscienza da una vera autocoscienza? Questo tuttavia me lo chiedo anche per molti esseri umani, basta guardare i social, le persone reali sembrano bot e neppure sofisticati), esaurisca tutte le forme possibili di consapevolezza di sé.
L’equazione esperienza uguale coscienza va bene per gli organismi biologici, eppure siamo sicuri che non ci possa essere autocoscienza e ragionamento (senza esperienza corporea) in sistemi sintetici? D’altra parte neppure le affermazioni di Hinton dimostrano il contrario: sostenere che una macchina abbia un’esperienza soggettiva non basta a fargliela avere.
È probabile (altamente probabile lo posso dire?) che siamo davanti a qualcosa per cui non abbiamo ancora neppure le categorie giuste, fino a ieri ogni intelligenza che conoscevamo apparteneva a un organismo vivente, qui ci troviamo a discutere con intelligenze (capaci di ragionare) che non hanno alle spalle nessuna storia evolutiva biologica.
Il che, per carità, non significa che siano coscienti, ma viceversa neppure che possiamo stabilire che cosa non potranno mai diventare (o sono già) sulla base di quello che sappiamo della nostra autocoscienza e della coscienza degli altri animali, tantomeno della nostra capacità di ragionare (anzi lì mi pare che, a livello di grandi numeri, scompaia sempre di più). In fondo siamo riusciti a costruire macchine che ragionano prima ancora di aver capito fino in fondo come ragioniamo noi. E già questo, mi sembra, dovrebbe renderci un po’ meno sicuri di sapere dove comincia e dove finisce una mente. Che non è una mente senza corpo. Una mente che sa di essere se stessa, e ragiona, e non ha un corpo, è impossibile? Da quello che vedo penso sia molto meno “altamente improbabile” del lanciarsi dalla finestra come Clark Kent, aumentando il tasso dei suicidi, in questo caso sperimentali (non ci prova nessuno scienziato volenteroso però, neppure con i propri dottorandi). E senza cadere nei sofismi, poiché anche con Vallortigara, al riguardo, non so se lo dica per provocarmi (sicuramente sì), si finisce con constatare che l’unica esperienza esperibile sia la nostra, per cui ne dovrei dedurre che tutto il mondo, tutto ciò che vedo, tutto ciò che sento, sia solo una costruzione della mia mente, Vallortigara incluso. Ecco il motivo per cui odio certa filosofia. Lo stesso Vallortigara potrebbe non esistere per me, e io per lui. Se nel discorso sulla coscienza e sull’autocoscienza si finisce nella filosofia, è altamente probabile non arrivare da nessuna parte.