L'asfalto di Mombasa Road sfrigola come pancetta su una piastra, una linea in piloni di cemento e macchine che fende Nairobi, tra cielo, erba essiccata e casupole. C'è un edificio lungo il corso dell'arteria stradale che attira, inevitabilmente, l'attenzione: a specchi, somiglia ad un fluorescente cubo di Rubik prefabbricato, con la scritta aziendale stampigliata in grande, Sama. La Sama è una di quelle società che nel cuore del terzo mondo coadiuvano, coi loro inesausti e giovani programmatori informatici, l'operato dei giganti del Tech mondiale, specificamente nel settore del machine-learning e della content moderation. Ragazzi che trascorrono la loro giornata lavorativa nutrendo di dati e addestrando intelligenze artificiali o rimuovendo contenuti.
Quartiere periferico tedesco, grigio, anodino, come gli esterni che decenni prima avevano ospitato la caotica epopea hacker del Chaos Computer Club; qui vive un programmatore informatico cinese, Scsky, che a tempo libero sviluppa una app, Can you Forgive Me. Lo scopo, in apparenza, è nobile; la app consente di passare al setaccio tutti i siti porno della rete, permettendo alle donne di identificarsi mediante l'upload di una loro foto. Un metodo per agevolare la richiesta di rimozione delle immagini o dei video e denunciare per revenge porn. Ma è davvero questo lo scopo che Scsky si era prefissato? Le femministe cinesi ne dubitano, scendono sul piede di guerra, lo accusano di aver realizzato una app che nei fatti si trasformerà in un meccanismo di pressione da parte degli utilizzatori maschi su incolpevoli donne, ree di aver girato magari un porno amatoriale anni prima.
Karl Ricanek è un brillante afro-americano, studi prestigiosi, esperto di deep learning e di riconoscimento biometrico; può vantare però un sinistro primato, ovvero quello di una sequenza stordente di fermi da parte della polizia. Lui ritiene proprio in quanto afro-americano. Affinando i suoi studi e il suo lavoro, nell'America post-11 settembre, in cui la convergenza tra innovazione tecnologica e sicurezza si è resa sempre più marcatamente endiadica, Ricanek si è reso conto dei potenziali bias di matrice razziale e dei rischi elevati di profilazione razziale.
Che cosa lega tra loro queste storie, a parte il quoziente hi-tech?
Sono tutte, queste e molte altre, narrate e ricostruite nel bel libro di Madhumita Murgia, Essere umani l'impatto dell'intelligenza artificiale sulle nostre vite che Neri Pozza ha pubblicato da pochissimi giorni.
Immunologa indiana, esperta di alta tecnologia, residente in Inghilterra, l'autrice ha composto un utilissimo e intenso breviario che ripercorre, passo dopo passo nella concreta casistica chiamata vita, come già oggi l'Ia si traduca in divaricazioni e potenziali discriminazioni, trasformando salute, benessere sociale, diritti. Un'opera che si presenta nel solco di volumi come Automatic Inequality di Virginia Eubanks, i quali pur partendo da un approccio genericamente tecno-ottimista si soffermano sulle esternalità negative, sui sommersi, su chi alberga alla periferia dell'impero tecnologico, spesso vittima del colonialismo dei dati.
Non per caso, la Murgia dedica un intenso paragrafo allo Stato sociale digitale, al modo in cui sempre più spesso le politiche pubbliche, di ogni livello e di ogni materia, vengono ricondotte a decisioni algoritmiche.
Un messaggio molto attuale considerando che il Governo degli Stati Uniti e le sue varie emanazioni amministrative si stanno integrando nell' Ontology di Palantir, grazie a un maxi-contratto che nei fatti rappresenta il lascito dell'era Musk al DOGE; Ontology è una ontologia digitale, una funzionale integrazione delle varie piattaforme software messe a disposizione dal colosso tech di Denver per processare moli massive di dati detenuti dalle varie amministrazioni e determinare così una nuova razionalità di politica pubblica.
L'accelerazione estrema che si sta imprimendo allo sviluppo e all'impiego dell'intelligenza artificiale e dell'alta tecnologia alla sfera sociale, a quella amministrativa, a quella lavorativa, imprime modificazioni genetiche al modo stesso in cui stiamo al mondo.
Uno dei primi executive order trumpiani reca il significativo titolo di «Removing Barriers to American Leadership in Artificial Intelligence», seguito a stretto giro da una vasta epurazione di consiglieri ed esperti della precedente amministrazione, non tanto dettata da infedeltà politica quanto da insanabili divergenze sulla modalità di approccio allo sviluppo dell'intelligenza artificiale.
Secondo l'ex special advisor di Biden per l'intelligenza artificiale, Ben Buchanan, l'approccio di totale deregolazione e di accelerazione lasciata nelle
mani dei soli privati potrebbe portare allo sviluppo dell'intelligenza artificiale generale addirittura nella seconda metà della Presidenza Trump.Proprio per questo il libro di Madhumita Murgia è una riflessione preziosa.
