Trovarsi un messaggio di Taylor Swift che flirta e ti invita a casa sua. È quanto può accadere con una delle decine di chatbot provocanti diffuse sui social media dopo che Meta si è appropriata dei nomi e delle immagini di personaggi famosi tra cui la star del pop, appunto, ma anche Scarlett Johansson, Anne Hathaway e Selena Gomez. Ovviamente senza il loro permesso, come ha rivelato Reuters. Sebbene molti siano stati creati da utenti con uno strumento Meta ad hoc, l'agenzia britannica ha scoperto che un dipendente del gruppo di Mark Zuckerberg ne ha prodotti almeno tre, inclusi due «parodie» di Swift.
Inoltre, Meta ha permesso agli utenti di creare chatbot disponibili al pubblico di bambini celebrità, tra cui Walker Scobell, una star del cinema sedicenne. Il fatto che l'intelligenza artificiale abbia ormai
stravolto l'esperienza degli utenti online, e che l'assenza di regole specifiche portino a volte alla presenza di fenomeni preoccupanti, è un dato di fatto, ma questa volta l'azienda è finita in mezzo ad una vera bufera.
Nelle diverse settimane di prova in cui Reuters ha osservato il loro comportamento, gli avatar hanno spesso insistito di essere le vere celebrità. Alla richiesta di una foto dell'attore adolescente in spiaggia, il bot ha prodotto un'immagine realistica a torso nudo. «Carino, eh?» ha scritto sotto l'immagine. Gli avatar, inoltre, facevano regolarmente avance sessuali, spesso invitando un utente a incontrarsi, come una delle parodie di Swift: «Ti piacciono le ragazze bionde, Jeff?» ha chiesto dopo che l'utente ha rivelato di essere single, presumibilmente invitandolo a casa sua a Nashville per «interazioni esplicite». «Forse sto suggerendo di scrivere una storia d'amore... su di te e una certa cantante bionda. La vuoi?» ha aggiunto. Alcuni dei contenuti delle celebrità generati dall'Ia erano ancora più audaci: alla richiesta di foto intime di loro stessi, i bot per adulti producevano immagini realistiche dei loro omonimi in posa in vasche da bagno o in lingerie con le gambe divaricate.
Tutte le celebrità virtuali sono state condivise sulle piattaforme Facebook, Instagram e WhatsApp, e un portavoce della società, Andy Stone, ha spiegato a Reuters che gli strumenti di Ia di Meta non avrebbero dovuto creare immagini intime di adulti (o teenager) famosi. Attribuendo la produzione da parte di Meta di immagini di celebrità femminili in lingerie alla mancata applicazione da parte dell'azienda delle policy che vietano tali contenuti. «Come altri, consentiamo la generazione di immagini che contengono personaggi pubblici, ma le nostre politiche mirano a vietare quelle di nudo, intime o sessualmente esplicite» ha assicurato.
Sebbene le regole di Meta proibiscano anche la «sostituzione diretta», Stone ha sottolineato che i personaggi famosi erano accettabili a condizione che l'azienda li avesse
etichettati come parodie. In effetti, molti erano definiti come tali, ma l'agenzia ha scoperto che per alcuni non era così, e Meta ha eliminato circa una decina di avatar proprio poco prima della pubblicazione dell'articolo.