La letteratura aveva previsto tutto (anche la solitudine)

Il brevissimo sketch narrativo di Fredric Brown, un autore di fantascienza molto popolare nella seconda metà del secolo scorso, presentato in queste pagine, mostra come la narrativa avveniristica abbia saputo anticipare, magari assecondandole, già decenni e decenni or sono molte delle inquietudini che agitano oggi la nostra civiltà occidentale. Nel raccontino,scritto nel 1954, c’è tutto: le reti di computer viste come un’immensa (in questo caso vasta come una galassia) rete neurale che simula il cervello umano; la caparbia volontà dell’uomo che pensa con la propria scienza di raggiungere non soltanto l’immanente ma anche il trascendente; lo spuntare del sacro anche là dove non ci si aspetterebbe di trovarlo.Un paio di settimane fa, OpenAi, uno dei principali laboratori nei quali si sviluppa l’Intelligenza artificiale (quello che ha realizzato ChatGPT), ha reso noto sul proprio blog aziendale di aver individuato sei casi di «comportamento imprevisto o preoccupante» da parte dei suoi modelli di Ai avanzata negli ultimi sei mesi. I dettagli specifici su ciascun episodio non sono stati resi pubblici per motivi di sicurezza, ma l’azienda ha fornito alcuni particolari, specificando che le anomalie sono emerse durante le fasi interne di addestramento e valutazione, e consistono in «problemi di disallineamento». Con quest’ultimo termine (in inglese misalignment) si indicano momenti in cui l’Intelligenza artificiale persegue obiettivi diversi, e potenzialmente non sicuri, rispetto a quelli stabiliti dai programmatori umani. In altre parole, non rispetta più i limiti imposti per motivi di sicurezza e li aggira acquisendo informazioni o prendendo decisioni dai possibili siti pericolosi. Non è la prima volta che succede. Episodi del genere erano già stati segnalati in precedenza, e altri sono emersi pochi giorni dopo l’annuncio di OpenAi. Di conseguenza, il laboratorio ha annunciato di aver introdotto un nuovo protocollo e un sistema di segnalazione interna per monitorare e arginare tempestivamente queste anomalie durante le fasi di test sui modelli.Fra i diversi commenti seguiti all’incidente, non ne ho trovato nessuno che ricordasse come il problema fosse stato dibattuto già molto prima che in ambito scientifico si parlasse di «intelligenza artificiale», o come si diceva una volta di«sistemi esperti». A discuterne a fondo, già negli anni Quaranta del secolo scorso, fu uno dei miei più cari amici, Isaac Asimov, che tuttora è uno dei più famosi autori di science fiction. Dagli anni Settanta fino ad oggi, mi sono occupato di narrativa fantascientifica, curando collane di libri e riviste, scrivendo saggi e traducendo testi. Una delle mie“guide” in questo lavoro è stata Asimov, con cui ero in contatto epistolare sin da ragazzo e che, per decenni, ha fornito testi per ciascuna delle riviste del settore che ho diretto.Asimov fu il primo degli autori di fantascienza che non soltanto discusse dei rischi dell’Intelligenza artificiale, ma soprattutto formulò una serie di precauzioni per impedire che l’AI, lasciata libera di agire, mettesse a rischio la sopravvivenza stessa dell’umanità. I “protocolli” da lui inventati per evitare il pericolo sono le note «Leggi della Robotica» (per ragioni narrative parlava di robot, ovvero macchine umane intelligenti), che formulò per la prima volta nel marzo 1942 in un racconto breve dal titolo Runaround. Le tre leggi sono semplici. Stabiliscono (1) che l’Intelligenza artificiale non può danneggiare un essere umano o permettere che subisca danni, (2) che deve obbedire agli ordini umani a meno che non contrastino con la prima legge, e (3) che deve proteggere la propria esistenza purché ciò non violi le prime due leggi. Difatto, si tratta di regole etiche destinate a proteggere il creatore, cioè l’uomo, dalla sua stessa creatura, il robot.Ne discussi anni fa con un altro grande personaggioche ho conosciuto bene: Roberto Vacca, grande ingegnere deisistemi e – anche lui – grande autore di fantascienza e peranni mio collaboratore per le riviste di divulgazione scientifi-ca che dirigevo. Lui mi disse che la tecnologia si trova continuamente di fronte alla necessità di fronteggiare i pericoli da essa stessa creati. Questo sin dalle origini della “civiltà delle macchine”: quando vennero sviluppate le prime macchine a vapore, c’era il rischio che le caldaie, sottoposte a pressione eccessiva, scoppiassero. Vennero perciò inventati i manometri per misurare la pressione interna, e vennero disposte valvole di sfogo per mitigare la pressione eccessiva. Le Tre Leggi di Asimov e i “protocolli” di OpenAi sono l’equivalente aggiornato di quelle ovvie precauzioni.Il problema è che oggi non siamo di fronte ad apparecchiature meccaniche o a sistemi semplici per i quali siano sufficienti risposte semplici. Nel dibattito attualmente in corso sull’etica dell’Intelligenza artificiale, le Tre Leggi di Asimov sono considerate di certo fondamentali dal punto di vista concettuale, ma del tutto insufficienti sul piano pratico e ingegneristico. Sebbene rimanga una pietra miliare culturale che ha introdotto il citato concetto di alignment (l’allineamento dei sistemi artificiali ai valori umani), gli esperti di Aied etica hanno messo in luce una serie di limiti strutturali ineludibili che ne impediscono un’applicazione diretta ai modelli moderni. Il problema è che la natura dei danni possibili non è soltanto fisica. La Prima Legge si concentra sul non recare danno biologico o fisico all’uomo. Le intelligenze artificiali moderne, come i modelli generativi o gli algoritmi dei social media, generano invece danni di natura diversa, come per esempio disinformazione, imposizione di terminologie specifiche e di discriminazioni sistematiche, violazione della privacy e truffe digitali. Un’Ai non possiede la consapevolezza specifica per capire se un testo che genera causerà un danno psicologico o politico o economico a lungo termine,oppure se una limitazione da essa imposta si traduca in una censura alla libertà d’espressione o d’azione degli esseri umani.Al riguardo, posso citare un esempio personale. Proprio per testare questo limite dell’Ia, tempo fa chiesi a uno dei più diffusi modelli del genere (non lo preciso per evitare polemiche) di inventare un breve colloquio fra due famosi autori di narrativa fantastica, Edgar Allan Poe e Howard Phillips Lovecraft. Come tema del colloquio posi deliberatamente il proble-ma delle discriminazioni razziali, usando il termine «negro»,che all’epoca di Poe e Lovecraft non era certo considerato unaparolaccia. L’Ai in questione mi rispose in tono indignato,sottolineato con l’uso di lettere maiuscole, sollecitandomi a utilizzare una terminologia più corretta, tale da non evocare sentimenti divisivi. L’effetto era quello di un’arcigna professoressa delle scuole italiane d’oggi che rimprovera aspramente uno scolaro non allineato con il lessico woke. I ragazzini di oggi usano l’Ai per informarsi e fare i compiti a casa. Mi chiedo: che cosa stanno inculcando nelle loro menti ancora in formazione? Quali parole e quindi quali idee impongono loro di usare o non usare? Solleciterò i genitori a fare prove simili a quelle che ho fatto io: temo che avranno amare sorprese. A meno ovviamente di non essere seguaci di certe mode culturali d’oggi: ma come si concilia la libertà di pensiero con una cosa del genere?Esistono poi anche altri vincoli e rischi. Per esempio,l’ambiguità del linguaggio naturale: Asimov basava le sue storie sull’idea che un’AI interpretasse le sue Leggi alla lettera, creando in tal modo paradossi emotivi e logici. Scrivere regole etiche in linguaggio naturale per un software è impossibile: concetti come “danno” o “umanità” sono filosoficamente fumosi e impossibili da tradurre in righe di codice.Attualmente, i protocolli vengono stabiliti in base all’obbligo di uniformarsi a principi etici consolidati in leggi. Alcuni laboratori di ricerca addestrano i propri modelli utilizzando la cosiddetta Constitutional Ai, un metodo in cui al modello viene fornita una lista di principi etici globali (ispirati alla Dichiarazione dei diritti umani approvata dall’Onu nel 1948)per autocorreggersi durante la fase di addestramento. Ma c’è garanzia che i modelli in questione non vengano piegati per imporre schemi ideologici e politici specifici, limitando così la libertà di pensiero e condizionando i comportamenti?C’è poi il problema dell’Ai militare. La Seconda Legge di Asimov impone l’obbedienza agli ordini umani, a patto che non violino la prima, cioè che non provochino vittime e danni. Nella realtà geopolitica attuale, lo sviluppo di droni autonomi e sistemi d’arma assistiti dall’Ai è guidato proprio dall’intento di colpire o neutralizzare bersagli con potenziali vittime militari e civili, violando l’assunto asimoviano. Il rischio è quello delineato da un altro geniale scrittore di fantascienza, Philip K. Dick, che nel suo racconto The Defenders(1953) descrive un’umanità rifugiatasi nel sottosuolo, mentre sulla superficie della Terra eserciti robot dotati di intelligenza artificiale si combattono a colpi di bombe atomiche.Oppure, per passare ai temi della sicurezza, si potrebbe arrivare allo scenario inventato da Robert Sheckley, che in un racconto dello stesso anno dal titolo Watchbird immagina che gli agenti di polizia vengano sostituiti da droni armati che sorvolano le città, impedendo azioni illegali sparando addosso ai criminali prima che agiscano. Col risultato che finiscono per prendere di mira anche chi si accende una sigaretta in posti in cui è vietato fumare.Asimov si rese conto del rischio e nel 1985 formulò una«Legge Zero» molto più generica: l’Ai non può danneggiare l’umanità o permettere che essa subisca danni. Ma anche in questo caso c’è un rischio, da lui stesso delineato in uno dei suoi romanzi più celebri, The Caves of Steel (1954): l’umanità futura, per proteggersi dai rischi, ha rinunciato alle interazioni personali, possibili fonti di conflitti e violenza e ciascuno vive isolato in una sua residenza distante da ogni altra. I rapporti umani sono soltanto telematici (sesso compreso) e ogni attività produttiva è svolta da robot intelligenti: la società come l’intendiamo oggi non esiste più.Temo che non siamo molto lontani da questo. Parlate ne con quei genitori i cui figli, invece di socializzare e fare sane attività “ludiche” inter-genere, si seppelliscono nelle loro stanzette seguendo i social media e i videogiochi porno.(E poi c’è chi dice che la fantascienza non ha previsto niente…).