"Ruba le foto". Lo strano caso dell'aspirapolvere Roomba

Sta facendo accendere gli animi dei detrattori e dei cultori delle tecnologie il caso portato alla ribalta da Mit Technology Review che ha ricevuto fotografie scattate dall’aspirapolvere robot Roomba J7 prodotta da iRobot, azienda passata alla corte di Amazon lo scorso agosto per la cifra di 1,7 miliardi di dollari (1,59 miliardi di euro). Tra le foto ce n’è anche una nella quale si vede una donna alla toilette, comodamente seduta sul water. Fotografia questa che, insieme ad altre meno esplicite, è finita su Facebook diventando virale. Vista così, la situazione è molto grave a prescindere dai soggetti delle fotografie le quali, in nessun caso e per nessun motivo, sarebbero dovute finire online.

Roomba e le "foto rubate"

I fatti risalgono all’autunno del 2020 e sono avvenuti in Venezuela. Le fotografie finite online sono state scattate dall'aspirapolvere Roomba J7 e inviate a Scale AI, startup che si occupa di intelligenza artificiale. Sono stati proprio i dipendenti di Scale AI a pubblicare le fotografie su Facebook, rendendole così pubbliche al di fuori dello scopo per le quali sono state scattate.

La spiegazione

A finire sotto accusa non possono essere tutti i robot che puliscono casa ma, eventualmente, i dipendenti di Scale AI che hanno diffuso maldestramente le fotografie usate per essere etichettate.

Per riconoscere ambienti e ostacoli, un’Intelligenza artificiale ha bisogno di essere addestrata e questo apprendimento le viene impartito usando immagini reali. In altre parole, per permettere a un’Intelligenza artificiale di riconoscere un pallone, un armadio o un orologio da polso, occorre farle vedere come sono fatti un pallone, un armadio, un orologio, un polso e un orologio indossato sopra a un polso.

Chi faceva uso di questo specifico modello di aspirapolvere era conscio del fatto che avrebbe scattato foto da mandare a Scale AI e durante le riprese gli utenti venivano avvertiti da un segnale. Il problema non è da ricercare nell’aspirapolvere ma altrove.

La pubblicazione delle foto

Sono stati i dipendenti di Scale AI che, nel discutere su gruppi Facebook e Discord delle foto e del lavoro di etichettatura, hanno pubblicato le foto che poi sono diventate virali. iRobot ha interrotto ogni collaborazione con Scale AI ma il danno di immagine c’è, ha un peso specifico e rischia di diventare una macchia difficilmente delebile.

Tra iRobot e gli utenti finali ci sarebbe quindi un accordo che però l’azienda si è rifiutata di mostrare su richiesta espressa formulata dal Mit Technology Review. Si tratta di un neo che non aiuta a diffondere la fiducia nei confronti della robotica e delle Intelligenze artificiali, anche se può trovare una spiegazione nelle esigenze di privacy e riservatezza.

Ciò non toglie, che la colpa è da ricercare nell’uomo e non nella tecnologia. Quando avviene un incidente stradale, nessuno se la prende con la vettura che avrebbe causato il problema ma il dito viene puntato, di norma, contro il conducente indisciplinato.

In ogni caso, la fiducia nei confronti delle automobili non viene messa in discussione ogni volta che si verifica un sinistro stradale.