Quando il robot è "troppo umano". E se impazzisce è una minaccia esistenziale

Il video sta facendo il giro del web, ovviamente suscitando preoccupazione. Che è successo? Durante un test in laboratorio, il robot antropomorfo Unitree H1 ha deciso di diventare protagonista suo malgrado: ha iniziato a muoversi in modo incontrollato, agitando braccia e gambe come un cugino robotico di C3PO in crisi di nervi e gli operatori hanno rischiato di prendersi una gomitata da una macchina da 50 kg, con lo stesso stupore con cui si guarda un aspirapolvere che improvvisamente decide di scalare il divano.

L’azienda cinese che l’ha progettato (nota per i suoi “cani robot”) ha parlato di un “errore di codifica” nell’algoritmo di bilanciamento, e così è. In pratica un bug nel software che gestisce l’equilibrio. In altre parole il robot non riusciva più a capire dove fosse il pavimento e ha cominciato a menare l’aria come uno a cui è andata di traverso la gravità.

Fa effetto, certo, perché il robot sembra umano, ha le gambe, le braccia, la postura da maratoneta zen, e quando perde il controllo è come vedere un essere umano in tilt con tanto di “effetto Terminator”: basta una scintilla di follia meccanica e subito la fantasia va al giorno del giudizio. Ma questa reazione dice molto più su di noi che sul robot.

Perché in realtà, le macchine impazziscono da sempre (anche le persone, per esattezza). Solo che sono più brutte e meno fotogeniche. Nelle fabbriche, i bracci robotici a volte accelerano all’improvviso, sbattono pezzi, lanciano oggetti, inchiodano con violenza su oggetti (o esseri umani) che non avrebbero dovuto toccare. Ci sono incidenti documentati di bracci automatizzati che si sono confusi tra un telaio e un operaio. Le automazioni nei magazzini Amazon hanno causato urti, collisioni, impilamenti creativi degni di Jenga e in Giappone un sistema robotico per impacchettare bentō ha iniziato a lanciare vaschette come se avesse scoperto la libertà d’espressione.

Solo che in quei casi nessuno se ne accorge, non ci preoccupa, non fa notizia. Per la stessa ragione per cui costruiamo robot umanoidi (perché il nostro cervello empatizzi con la macchina) così ci fa impressione se un robot umanoide va fuori di testa. Un braccio robotico che sbatte è un errore tecnico, un robot con due gambe e due occhi che impazzisce è una minaccia esistenziale. La macchina ci fa paura solo quando ci assomiglia. Se inciampa, ci sembra ubriaca, se si gira all’improvviso, ci pare che ci guardi (male? Bene? Che intenzioni ha?).

Il problema non è l’algoritmo sbagliato, il problema è che siamo noi a voler costruire robot che ci imitano e poi ci spaventiamo quando lo fanno male. Come se ci desse fastidio vederli fallire in un modo troppo umano. Non è Terminator che ci preoccupa: nella nostra percezione siamo noi, visti da fuori, senza pelle, con le istruzioni sbagliate. Sarah Connor, se ci sei, rispondi pure. Ma per ora niente panico, basta aggiornare il firmware.