La società xAI di proprietà di Elon Musk ha introdotto nuove limitazioni all’utilizzo della funzione di modifica delle immagini del sistema di intelligenza artificiale Grok. Una contromossa inevitabile dopo che la tecnologia era finita al centro di polemiche internazionali per la capacità di creare rappresentazioni virtuali di persone reali in abiti succinti o senza vestiti. Diversi governi - dall’Europa all’Asia - hanno avviato indagini per contrastare la circolazione online di contenuti illegali o sessualmente espliciti generati tramite la piattaforma. Negli Usa, inoltre, alcune organizzazioni per i diritti civili hanno chiesto ad Apple e Google di rimuovere l’app dai rispettivi store digitali.
In un comunicato pubblicato su X, la società ha spiegato di aver “implementato misure tecnologiche per impedire che l'account Grok consenta la modifica di immagini di persone reali in bikini o biancheria intima”, precisando che “questa restrizione si applica a tutti gli utenti, compresi gli abbonati”. La puntualizzazione fa riferimento alla recente decisione di limitare l’editing delle immagini alle sole persone con un abbonamento attivo. La piattaforma ha aggiunto di vietare la generazione di immagini di individui con abiti succinti in alcune aree del mondo, in “giurisdizioni in cui è illegale”, senza però specificare quali siano. La funzione di editing era stata aperta a tutti gli utenti intorno a Natale, dopo una fase iniziale in cui era disponibile soltanto per gli abbonati. Nei giorni immediatamente successivi sono comparse online le prime immagini non consensuali, con un incremento significativo nel periodo di Capodanno.
Secondo quanto reso noto dalla Cnn, il 5 e 6 gennaio Grok sarebbe stato utilizzato per produrre almeno 6.700 immagini a sfondo sessuale, spesso raffiguranti donne o minorenni. Tra i casi citati figura anche una foto alterata dell’attrice quattordicenne Nell Fisher, nota per la serie “Stranger Things”. Le reazioni non si sono fatte attendere: il Regno Unito ha aperto un’indagine chiedendo a xAI di “adeguarsi immediatamente alla legge britannica”. Anche la procura di Parigi ha avviato un’inchiesta, mentre in India il ministero dell’Informatica ha accusato X di favorire la diffusione di contenuti osceni. Indonesia e Malesia hanno bloccato la piattaforma. L’Unione europea ha dichiarato di aver preso atto delle “misure aggiuntive adottate da X”, riservandosi ulteriori interventi qualora non fossero considerate sufficienti. Anche la California ha annunciato un’indagine nelle ultime ore. Il governatore Gavin Newsom ha definito “abominevole” la scelta di xAI di creare uno spazio che, a suo giudizio, favorisce la diffusione di deepfake sessualmente espliciti senza il consenso delle persone coinvolte. Parallelamente, 28 organizzazioni statunitensi per i diritti civili hanno chiesto ad Apple e Google di bloccare l’app Grok dai loro store per evitare che si “tragga profitto dalla creazione di deepfake”.
La scorsa settimana Elon Musk aveva dichiarato di “non essere a conoscenza di alcuna immagine di minorenni nudi generata da Grok, letteralmente zero”. Una precisazione che non è servita a frenare Ashley St. Clair – influencer e madre di uno dei suoi figli – a fare causa alla sua società di intelligenza artificiale. La donna ha puntato il dito contro Grok per alcune immagini sessuali false che la ritraggono senza il suo consenso. La causa è stata depositata presso un tribunale dello Stato di New York e sostiene che il chatbot abbia inizialmente creato un'immagine generata o alterata dall'intelligenza artificiale che la ritraeva in bikini.
St Clair afferma dunque aver chiesto a xAI di non produrre ulteriori immagini di questo tipo ma che, nonostante ciò, "innumerevoli contenuti deepfake sessualmente abusivi, intimi e degradanti di St Clair sono stati prodotti e diffusi pubblicamente da Grok".