Chat Control 2.0, l’Ue andrà a caccia di pedofili con l'intelligenza artificiale

Ribattezzata Chat Control 2.0, si tratta di una proposta di legge con cui l’Unione europea vuole combattere e prevenire gli abusi sui minori.

Se ne parla dal 2021, ha suscitato molto scalpore e potrebbe essere approvata durante i prossimi giorni.

Fino a qui, niente di male. Le cose si complicano perché, pure riconoscendo la nobiltà dell’obiettivo, l’introduzione della legge Chat Control solleva qualche rischio per quei principi di salvaguardia della privacy per i quali la stessa Ue si è battuta.

Come funziona Chat Control 2.0

La proposta di legge prevede che i provider di servizi online come email, messaggistica istantanea e piattaforma di comunicazione, monitorino miliardi di messaggi per scovare contenuti dannosi. Il provider che riceve simili richieste dalle autorità locali è obbligato a monitorare il traffico che gestisce e ad avvertire la polizia nel caso in cui intercettasse materiale sospetto.

Il funzionamento, come vedremo, è un punto ancora oscuro. In un primo momento si è persino pensato di confrontare i contenuti che gli utenti si scambiano (miliardi di messaggi al giorno con foto, video e altri file multimediali) con il Child Sexual Abuse Material (CSAM), un database di immagini pedopornografiche promosso dall’Interpol.

In pratica, tutte le email e tutti i messaggi che i cittadini europei si scambiano verrebbero scansionati da appositi sistemi di Intelligenza artificiale alla ricerca di contenuti illegali, in questo caso contenuti che ritraggono o accennano ad abusi su minori. Sono quindi coinvolte le email ma anche i messaggi inviati tramite sistemi di messaggistica istantanea come, per esempio, WhatsApp o Telegram e, parimenti, anche le piattaforme come Skype o Zoom. In caso di match positivo il provider del servizio deve verificare il contenuto e, se del caso, segnalarlo alla polizia.

Un lavoro svolto in prima battuta da algoritmi e poi, in fase di eventuale approfondimento, da umani, con il rischio che davanti a un tema tanto delicato come quello degli abusi sui minori, in presenza di un dubbio le autorità possano intervenire anche quando non ci sono gli estremi.

La crittografia end-to-end

C'è il tema della crittografia end-to-end, tecnica grazie alla quale gli utenti possono conversare tra loro senza che altri, gestore del servizio incluso, possano leggere le informazioni. Rinunciare alla crittografia end-to-end è impossibile, perché non è usata solo dai criminali ma anche da categorie di persone a rischio, tra i quali i dissidenti, i giornalisti e attivisti. La Commissione europea valuta allora di scansionare i contenuti sui dispositivi degli utenti ma c'è un precedente che spiega come questa strada sia poco percorribile.

Nel 2021 Apple ha palesato l'ipotesi di fare altrettanto, ossia di scansionare i dispositivi con a bordo iOS (gli iPhone) e iPadOS (gli iPad) per cercare materiale che lede le leggi ma gli utenti hanno protestato in modo tanto deciso da fare desistere l'azienda di Cupertino. Al di là di questo sistema di scansione che appare tecnologicamente proibitiva - occorre un sistema per lasciare accesso remoto ai dispositivi - va anche considerato che, per quanto evolute, le Intelligenze artificiali sono confrontate con il problema dei falsi positivi, ossia contenuti legittimi che vengono scambiati per illegali.

Percentuali di errore a doppia cifra che metterebbero in atto i controlli manuali da parte delle autorità preposte, andando a caricare in modo eccessivo le forze dell'ordine di ognuno degli Stati membro dell'Ue e che potrebbero non portare a nulla di concreto.

Tutti questi motivi, insieme alle evidenti violazioni della privacy, hanno portato esperti a chiedere, con una lettera aperta indirizzata alla Commissione europea, di rivedere l'approccio al problema senza sacrificare la crittografia e tenendo conto delle ripercussioni che la legge Chat Control 2.