Quando si è esponenti pubblici, il buon senso imporrebbe un comportamento ineccepibile sia nella vita "reale" che in quella virtuale. E quando si è esponenti politici, questo dovrebbe valere doppio. Ma l'assessore del Comune di Lecco, Alessandra Durante, che aveva anche le deleghe all'Evoluzione digitale, ai Rapporti con i cittadini, Famiglia, Giovani e Comunicazione, non ha fatto tesoro di questa regola aurea ed è stata costretta alle dimissioni a seguito dell'utilizzo di un profilo anonimo sui social, identificato come "Membro anonimo 582", per insultare e deridere un cittadino che aveva espresso critiche sull'operato dell'amministrazione comunale in un gruppo Facebook. I commenti contenevano attacchi personali, definendo il cittadino, tra l'altro, "ritardato", "frustrato" e "analfabeta". Il caso ha ovviamente destato clamore ma ha sollevato anche interrogativi più ampi sul fenomeno dell'odio social e degli insulti provenienti da profili che credono di proteggersi con l'anonimato. Una convinzione comunque effimera, a giorno d'oggi. Ne abbiamo parlato con Marzio Ferrario, esperto del settore.
Quali sono i meccanismi che portano alla diffusione di messaggi d'odio in rete, specialmente sui social media?
I meccanismi sono diversi, ma i principali includono la percezione di anonimato, la velocità della comunicazione digitale e l’effetto di “rinforzo” che i like e le condivisioni generano. Diversi studi mostrano che la dinamica del gruppo virtuale può normalizzare comportamenti aggressivi. In sostanza, più un discorso ostile ottiene visibilità e approvazione, più viene percepito come accettabile. A questo si aggiunge la mancanza di conseguenze immediate: un commento violento non produce reazioni fisiche dirette e questo abbassa la soglia di autocontrollo
Quale ruolo giocano l'anonimato e la percezione di impunità nella manifestazione dell'odio online?
Un ruolo centrale. Il 53% degli utenti europei secondo l’Eurobarometro 2023 ritiene che l’anonimato sia il fattore che più incentiva l’aggressività digitale. L’idea di non poter essere identificati alimenta un senso di impunità che rende più facile attaccare e umiliare. È un fenomeno che abbiamo osservato anche nel caso dell’assessora di Lecco: la convinzione di 'parlare dietro un nickname' ha creato un senso di distanza e di deresponsabilizzazione, salvo poi trasformarsi in un boomerang reputazionale.
Cosa dicono i dati sul trend dei casi di odio online negli ultimi anni?
Sono piuttosto chiari. Tra il 2020 e il 2023:
- il 67% degli utenti Internet a livello globale dichiara di essersi imbattuto in contenuti d’odio online almeno una volta nell’ultimo anno. La percentuale sale al 74% tra gli under 35;
- Facebook è percepita come la piattaforma con la maggiore incidenza di hate speech (58%), seguita da TikTok (30%), X/Twitter (18%) e Instagram (15%);
- le principali vittime percepite sono persone LGBT+ (33%) e minoranze etniche o razziali (28%);
- secondo uno studio dell’Università della Californa Berkeley, da quando Elon Musk ha acquisito la piattaforma precedentemente nota come Twitter nell’ottobre 2022, i contenuti di incitamento all’odio sono aumentati drasticamente del 50%. Dato probabilmente legato alle politiche di garanzia della libertà di espressione;
- Il Pew Research Center riporta che il 41% degli adulti statunitensi ha subito molestie online nel 2023.
A quali fattori attribuisce questi cambiamenti?
Ci sono diversi fattori concomitanti:
- la pandemia COVID-19, che ha aumentato il tempo di permanenza online e l’esposizione ai contenuti;
- la polarizzazione politica, soprattutto durante eventi come le elezioni americane e i dibattiti su vaccini e diritti civili;
- la riduzione delle politiche di moderazione su piattaforme come Twitter/X, che ha coinciso con un incremento rapido dei contenuti d’odio;
- l’effetto moltiplicatore degli algoritmi di raccomandazione, che tendono a premiare i contenuti più divisive.
Ci sono dati che correlano la diffusione dell'odio online con specifici eventi sociali, politici o culturali?
Sì. Un report del Pew Research Center ha documentato un picco di contenuti d’odio durante il periodo successivo all’omicidio di George Floyd nel 2020. Allo stesso modo, UNESCO ha segnalato un aumento significativo di discorsi ostili legati alle campagne elettorali americane e all’uscita del Regno Unito dall’Unione Europea. In Italia, Amnesty International e Save the Children hanno evidenziato un incremento di attacchi verbali a sfondo razzista e omofobo durante il lockdown.
Quali sono le piattaforme o i canali online dove si registra la maggiore incidenza di discorsi d’odio, secondo i dati a vostra disposizione?
Secondo i dati più recenti
- Facebook è la piattaforma dove la maggioranza degli utenti (58%) ritiene che l’hate speech sia più diffuso
- TikTok segue con il 30% degli utenti che la indicano come luogo di maggiore incidenza
- Il 18% degli utenti di X/Twitter la segnala come piattaforma problematica per i discorsi d’odio
- Il 15% degli utenti considera Instagram un canale in cui si riscontra hate speech.
- Secondo i dati più recenti
- Facebook è la piattaforma dove la maggioranza degli utenti (58%) ritiene che l’hate speech sia più diffuso
- TikTok segue con il 30% degli utenti che la indicano come luogo di maggiore incidenza
- Il 18% degli utenti di X/Twitter la segnala come piattaforma problematica per i discorsi d’odio
- Il 15% degli utenti considera Instagram un canale in cui si riscontra hate speech.
Questi dati come possono essere utilizzati per sviluppare strategie di prevenzione e intervento più efficaci?
I dati permettono di calibrare gli interventi di moderazione e di individuare i contesti digitali più a rischio. Oltre alla prevenzione generica, è fondamentale agire sull’identità degli autori dei contenuti ostili. Noi utilizziamo tecniche di OSINT e di analisi forense digitale per individuare l’identità reale dietro ai profili anonimi e dimostrare che l’impunità è un’illusione. Questo approccio ha un valore deterrente: sapere che un nickname può essere collegato a una persona concreta riduce la probabilità che un comportamento aggressivo si ripeta. In parallelo, i dati aiutano a formare team di moderazione più competenti e a sensibilizzare l’opinione pubblica sull’impatto reale delle parole online.
L’intelligenza artificiale e il machine learning possono essere impiegati nell'analisi dei dati per identificare e moderare l'odio online?
Assolutamente sì. L’IA è uno strumento essenziale per individuare pattern linguistici e riconoscere contenuti d’odio su larga scala. Noi combiniamo algoritmi di natural language processing con tecniche investigative di identificazione dei soggetti dietro i profili, attraverso correlazioni tra informazioni pubbliche, metadati e comportamenti digitali. Questa integrazione consente non solo di segnalare i contenuti, ma di intervenire in modo mirato per attribuire responsabilità e attivare eventuali azioni legali o disciplinari. È un approccio che supera la sola moderazione automatica, portando la trasparenza al centro della strategia di contrasto.
Come vede l'evoluzione del fenomeno dell'odio online nei prossimi anni?
Mi aspetto che l’odio online continuerà a crescere, anche perché le piattaforme evolvono più velocemente delle normative. Allo stesso tempo, credo che ci sarà maggiore consapevolezza: aziende, istituzioni e cittadini stanno comprendendo che non è un problema marginale, ma una minaccia alla coesione sociale. Le future generazioni saranno più alfabetizzate digitalmente e più attente alle conseguenze del loro comportamento online.
Quali sono, a suo avviso, le soluzioni a lungo termine più efficaci per costruire un ambiente online più rispettoso e inclusivo?
La prima soluzione è l’educazione digitale diffusa e continua. Ma occorre affiancarla a strumenti concreti di responsabilizzazione. L’esperienza di Phersei dimostra che identificare chi si nasconde dietro account anonimi è un deterrente potente contro l’odio e la diffamazione.
