Se i computer diventano oracoli la libertà non avrà più profeti

È il 14 dopo Cristo quando muore Ottaviano Augusto e Tiberio sale al potere a Roma. Il secondo imperatore teme continuamente per la propria vita: è paranoico e si affida totalmente a Lucio Elio Seiano, comandante dei pretoriani. Seiano si inventa attentati e cospirazioni per ottenere la fiducia di Tiberio e, insieme, per separarlo dal resto di Roma; un distacco che diventa anche fisico, quando Seiano convince l'imperatore a trasferirsi a Capri, perché là - questa è la scusa - sarà più facile proteggerlo da traditori e assassini. In realtà, segregando Tiberio su un'isoletta, Seiano può controllarne la corrispondenza e i contatti, insomma: nessuno può avere accesso all'imperatore, se non sotto il suo controllo. Risultato: Tiberio è «ridotto a un fantoccio», per usare la sintesi di Yuval Noah Harari nel suo nuovo saggio, Nexus. Breve storia delle reti di informazione dall'età della pietra all'IA (Bompiani, pagg. 600, euro 26).

Se la situazione di Tiberio vi sembra un po' quella in cui potremmo sentirci noi, se non oggi stesso, magari nel giro di qualche anno, a causa del dominio dell'Intelligenza artificiale su aspetti sempre più rilevanti della nostra esistenza, beh, è esattamente così. E non bisogna essere antichi tiranni, per ritrovarsi imprigionati su un'«isola digitale»: può capitare a chiunque, al cittadino di una democrazia come di una dittatura o, perfino, al dittatore stesso, di finire «controllato e manipolato dall'IA». Sulla nostra personalissima Capri, infatti, sperimentiamo le conseguenze di un principio cruciale secondo Harari: «Il potere si trova nel nodo in cui si fondono i canali di informazione». Se i canali di informazione si fondono tutti in Seiano, il nodo del potere è lui, anche se sei l'imperatore. Se i canali confluiscono tutti in unico motore di ricerca (per dire) o in un unico fornitore di notizie (sempre per dire), il nodo del potere è lì. E tutti gli altri, beh, sono in qualche modo i suoi schiavi: «Quando un regime si affida a una potente ma imperscrutabile IA che raccoglie e analizza tutte le informazioni, il dittatore umano rischia di perdere tutto il potere». Figuriamoci gli altri.

Ne sa qualcosa Eric Loomis. Nel 2013, in Wisconsin, Loomis viene coinvolto in una sparatoria; nega di aver sparato, ma si dichiara colpevole di due reati minori (resistenza a pubblico ufficiale e appropriazione indebita). Eppure, il giudice lo condanna a sei anni di carcere: una pena apparentemente spropositata, che si spiega col fatto che un algoritmo (Compas) abbia valutato elevato il «rischio di recidiva» di Loomis. L'appello di Loomis viene respinto, con la motivazione che l'algoritmo utilizza dati pubblicamente disponibili; ma «né il giudice né Loomis hanno capito come l'algoritmo Compas abbia effettuato la sua valutazione», e non perché la società produttrice dell'algoritmo non ha voluto svelare il suo metodo operativo: il fatto è che l'Intelligenza artificiale opera su una massa così enorme di dati che, per una intelligenza umana, è impossibile comprendere i meccanismi e gli schemi attraverso cui ha ottenuto un certo risultato. Non «difficile» o «impegnativo»: incomprensibile.

È questa l'«imperscrutabilità dell'IA», che non è un affascinante mistero come un altro, come dimostra quello che è accaduto a Eric Loomis: è quello che succederà quando ci sarà rifiutato un mutuo, respinta la domanda di ammissione all'università, negata una prestazione sociale; o saremo bocciati per un posto di lavoro, ci verrà assegnato un certo premio dall'assicurazione, riceveremo una cura medica e non un'altra; o quando leggiamo una notizia che il nostro social preferito ha già gentilmente selezionato per noi o ci contatta uno sconosciuto per un appuntamento. E così via, una decisione dopo l'altra, e non soltanto a livello del singolo, ma anche della collettività: come modificare il tasso di interesse, dove sparare un missile, se muovere guerra, dove aprire un ospedale o una scuola... Fino a mettere a rischio le democrazie come le conosciamo: «L'ascesa di un'intelligenza aliena imperscrutabile è una minaccia per la democrazia - scrive Harari - Se sempre più decisioni che riguardano la vita delle persone vengono prese dentro una scatola nera, così che gli elettori non possano capirle e contestarle, la democrazia smette di funzionare». Per esempio «gli elettori umani possono continuare a scegliere un presidente umano, ma non sarà un cerimoniale svuotato di senso», visto che le scelte cruciali per il Paese sono state prese da una macchina?

Ma la nuova «cortina di silicio», che «è fatta di codici e passa attraverso ogni smartphone, computer e server del mondo», non divide solo gli umani dalle macchine, i cittadini dai potenti; sta ridividendo il mondo in nuovi blocchi, la Cina da un lato, gli Stati Uniti dall'altro, con sofware e hardware diversi, obiettivi diversi, «architetture digitali diverse e un impatto diverso sulla vita delle persone». Il Nexus, il nodo della connessione, è un'arma a doppio taglio: lì si possono tenere le redini del potere, si possono unire le persone ma si possono anche separare irrimediabilmente. Proprio dove si realizza la massima connessione, la connessione potrebbe crollare. Sta a noi Sapiens scegliere se autodistruggerci o dedicarci, con pazienza, a un «piuttosto banale lavoro di costruzione di istituzioni con forti meccanismi di autocorrezione» (come insegnano le democrazie).

Se lottare soltanto per il potere e interpretare in tal senso qualsiasi ogni gesto e informazione, il passato come il futuro, oppure se interessarci alla verità e in questi nodi cercare, anziché un'arma, un po' di saggezza.