«Le macchine diventano più autonome ma non più umane. È questo il pericolo»

Il professor Gianmarco Veruggio è uno dei massimi esperti Italiani di robotica (fa parte della Society on Social Implication of Technology, dell’European Robotics Research Network ed è membro del CNR), si occupa da anni dei risvolti dello sviluppo dell’intelligenza artificiale.
Ha visto la notizia del New York Times relativa alle preoccupazioni degli scienziati americani sullo sviluppo di robot, e computer, sempre più autonomi?
«Si e ho pensato: meno male che finalmente ci pensano anche loro. Sino ad ora a porsi il problema sono stati soprattutto gli Europei e i Giapponesi».
Ma esiste davvero un pericolo?
«Sì, lo sviluppo della capacità di calcolo è stato esponenziale negli ultimi anni. Il mio cellulare è molto più “intelligente” di quanto fosse il computer universitario su cui ho preparato la tesi di laurea. E il computer dell’Apollo 11 equivale a un processore di quelli che adesso si mettono nei giocattoli».
Quindi le macchine diventano più “intelligenti” degli uomini?
«No, detto così è fuorviante. L’intelligenza non è misurabile e il biologico non è comparabile con le leggi che regolano i sistemi di calcolo informatico. Il vero problema è che avremo macchine sempre più capaci di adattarsi all’ambiente e di modificare i loro programmi in base all’ambiente. La loro “intelligenza” secondo me non somiglierà mai alla nostra. Anzi rischierà di esserci aliena».
Quindi?
«Quindi esiste la necessità di una profonda riflessione etica su quando, dove e come noi siamo disposti ad accettare che una macchina prenda decisioni autonome».
Si parla di droni sempre più autonomi da usare sui campi di battaglia...
«È uno dei problemi. Ora se lo stanno ponendo gli stessi militari. Metta di avere sul campo una macchina armata molto evoluta e molto autonoma... Se il nemico viola il sistema informatico e quella cambia bersaglio? Non esiste nemmeno una legislazione adeguata, non esistono accordi internazionali. Ma ci sono molti altri esempi... Potremmo avere computer ospedalieri che valutano quale paziente curare prima. Magari sarebbero più efficienti di un medico nel triage. Ma ci sta bene? È etico che una macchina decida chi vive e chi muore? È di questo che dobbiamo parlare, non di intelligenza...».
Ma quando le macchine inizieranno a essere così autonome?
«Non si può fissare una data.

Qualche scienziato indica il 2020 ma io non penso che sia una questione importante. Bisogna ragionarci da ora e, per fortuna, in Europa, per una volta, siamo avanti, c’è già un documento sottoposto alla Commissione europea»