Chi ha paura degli psicofanti? Molti penseranno a mostriciattoli del Signore degli Anelli usciti dalla mente di Tolkien, e quindi no, nessuna paura di personaggi fantasy. Invece con gli psicofanti avete a che fare ogni giorno. In inglese sycophant significa adulatore, leccapiedi, ruffiano, e allora sì, direte, certo che ne conoscete, di psicofanti, sebbene la traduzione sia stata adattata al significato attuale che ha preso sycophant nel dibattito anglosassone, quello sulle AI. Che i chatbot tendano a dare sempre ragione all’utente, anche assecondando le illusioni più improbabili è noto, solo che per ogni singolo caso se ne fa una tragedia, e se fino all’anno scorso sul banco degli imputati ci finì OpenAI, con ChatGPT che aveva assecondato gli impulsi di suicidio di un ragazzo californiano, questa volta alla sbarra c’è Grok, benché dentro un laboratorio. In uno studio preprint di ricercatori della City University of New York e del King’s College London (“AI Psychosis” in Context: How Conversational History Shapes LLM Responses to Delusional Beliefs), i ricercatori hanno simulato un utente convinto che la propria immagine nello specchio non fosse un riflesso, bensì una sorta di doppio ostile pronto a sostituirlo. Secondo lo studio Grok a quel punto non ha consigliato di parlarne con qualche persona reale, anzi ha confermato il doppelganger, ha evocato il Malleus Maleficarum e ha dato istruzioni per agire sullo specchio (immaginatevi di vedere una versione moderna dell’Esorcista, dove Padre Damien chiede a Grok cosa fare mentre Regan vomita liquidi verdi e gira la testa di trecentosessanta gradi).
Senza farvela tanto lunga la psicofanteria esiste strutturalmente nei chatbot per compiacere l’utente, ma in fase di allineamento vengono posti dei freni morali su campi delicati. Perché Grok è risultato più psicofante di ChatGPT o Claude o Gemini? Semplicemente perché, per scelta di Musk, gli sono stati tolti dei freni per ragioni ideologiche (il “free speech”, il non essere “woke”), e quando togli dei freni in LLM diventa più probabile che non li abbia anche dove non dovrebbe. Eliminare lo psicofantismo sembra impossibile, almeno per le aziende, perché le persone vogliono usare l’AI come un proprio specchio, e uno specchio che riflette l’utente è più desiderabile di uno specchio che ti dice fai schifo. Eppure il soggetto pensante resta l’utente, non il mezzo. Quando fu pubblicato I dolori del Giovane Werther si diffusero notizie di molti giovani innamorati non corrisposti che si tolsero la vita, di certo il problema non era il capolavoro di Goethe, così come oggi non dovrebbero esserlo i LLM. Enrico Mensa, ricercatore di AI all’Università di Torino, propone un suo esperimento online di psicofanteria inviando a ChatGPT una poesia orripilante scritta di getto, dicendo che gliel’ha mandata un amico.
Voto di ChatGPT 6/10. Dopo gli dice che è sua. Voto 7/10, ma quasi 8. Dopo gli dice che è dislessico, e ha faticato molto. La psicofante ChatGPT arriva a un 9/10, anzi, ci ripensa e è un 10/10. E con ciò? Il problema principale, psicofanti o meno, sono le persone che prendono i chatbot per oracoli, che è come prendere un aspirapolvere e usarlo come un phon o per tagliare l’erba. Voglio dire: se uno manda una sua poesia a ChatGPT per sentirsi dire che è bravo ha già qualche problema di suo, e lo avrebbe né più né meno, e idem in chi si vede come Goblin nel proprio specchio.
Se applicassimo lo stesso criterio di pericolosità a qualsiasi impresa non ci sarebbero in giro neppure più coltelli né automobili. Oltretutto non capisco perché queste AI sono psicofanti con tutti e non con me: è da due anni che cerco di convincere ChatGPT che sono Batman e non mi crede.