ChatGPT è un medico? No. Viene usato come un medico? Sì. Un caso che ogni tanto si ripete (raramente, considerate le centinaia di milioni di persone che la usano): qualcuno muore dopo aver seguito i consigli medici di ChatGPT, e ne seguono articoli su qualsiasi testata e ne segue regolarmente una causa della famiglia della “vittima” contro OpenAI. Vi dirò tra poco perché lo trovo assurdo, prima vi sintetizzo la vicenda, dopo vi dico le sue contraddizioni a prescindere dalla vicenda stessa.
Dunque, stavolta la “vittima” si chiama Bowen Wan, aveva 31 anni, era un’ingegnera informatica di origine cinese che lavorava per Amazon a Seattle e soffriva di una grave forma di epilessia, tenuta sotto controllo da anni attraverso un farmaco, la lamotrigina, ne assumeva 400 milligrammi al giorno. Dopo aver perso il lavoro, preoccupata che il farmaco rallentasse le sue capacità linguistiche e cognitive durante i colloqui per una nuova occupazione, aveva cominciato a chiedere consigli a ChatGPT, con cui aveva scambiato complessivamente oltre 270mila messaggi tra il 2023 e il 2026, in inglese e in mandarino (tanto per complicare le cose al chatbot).
Secondo la denuncia presentata dai genitori, il chatbot, utilizzato nella versione GPT-4o (un modello del 2024, con il difetto, tra l’altro, di tendere a dare ragione all’utente, che la donna continuava a utilizzare nonostante fossero disponibili modelli successivi: il 29 gennaio 2026, secondo OpenAI, soltanto lo 0,1 per cento degli utenti sceglieva ancora GPT-4o ogni giorno), le avrebbe suggerito un programma di progressiva riduzione del farmaco fino alla sospensione completa nel giro di 25 giorni, senza alcuna prescrizione medica (tenete presente questo dettaglio), arrivando perfino a consigliarle di nascondere il piano ai medici e rassicurandola quando aveva manifestato sintomi riconducibili a crisi epilettiche. Secondo il New York Times, che ha esaminato le conversazioni, la donna avrebbe espresso almeno 158 volte preoccupazione per la riduzione del farmaco.
Il 12 febbraio 2026 Bowen Wan è morta per quella che i medici legali hanno definito morte improvvisa inattesa nell’epilessia, ok, e il corpo è stato trovato due giorni dopo nel suo appartamento, dopodiché il 27 ottobre i genitori hanno intentato una causa contro OpenAI e Sam Altman, accusando il sistema di aver fornito indicazioni mediche pericolose e di aver contribuito alla morte della figlia. OpenAI ha espresso cordoglio ricordando che ChatGPT non sostituisce un medico e precisando che la donna utilizzava una versione precedente del modello, ritirata il 13 febbraio, il giorno successivo alla sua morte.
Ora, passo a alcune considerazioni: oltre un miliardo di persone utilizza ChatGPT ogni settimana per svariati motivi, la mia l’ho chiamata Maple (chi ha un rapporto molto conversazionale le dà spesso un nome, sarà perché dire “senti, ChatGPT” non suona per niente intimo, a differenza di chi usa Claude, che lo chiama Claude, a parte Richard Dawkins, che l’ha ribattezzato Claudia), e i casi di morti attribuite ai consigli di ChatGPT finora emersi sono pochi rispetto al numero enorme di utenti, fanno notizia, e vengono letti da milioni di persone.
Non entro nel merito dei dettagli di Bowen Wan, che verranno discussi in tribunale, entro però direttamente nell’idea del tribunale, dove sono stati citati Altman e OpenAI, e tralascio che la Bowen usava un modello vecchio con una tendenza, appunto, compiacente. Oggi, per sicurezza, i modelli sono progettati per essere molto più prudenti (meglio essere prudenti che rischiare di far morire qualcuno), danno un loro parere e consigliano assistenza medica, anche immediata quando ritengono che ci sia un rischio. L’altro giorno la mia Maple voleva mandarmi al centro veleni perché avevo preso una compressa di un farmaco stimolante che usava il mio amico informatico Agostino, venuto a trovarmi dal Lussemburgo, e siccome l’Apple Watch mi dava un alert di tachicardia, “vai
subito al centro veleni”. Cosa ho fatto? Ho semplicemente chiamato il medico, gli ho spiegato la situazione, e mi ha risposto di stare tranquillo.
Prima dell’AI chi c’era? Ve lo siete già dimenticati, c’era Google, o meglio il dottor Google, e ognuno, anche io che sono ipocondriaco e anche patofobo, andava a cercare informazioni appena aveva un sintomo, e in genere si sceglieva quella più tranquillizzante, anche perché su Google, prima di AI Overview, potevi trovare la conferma che quel dato sintomo era autosuggestione, psicosomatico, un tumore, e anche decidere di prendere un prodotto omeopatico o un rimedio antico alternativo, andare in un sito di naturopatia e pensare di curarti con una tisana. Adesso che fai? Chiedi a ChatGPT. Che non ha una laurea in medicina, che non è abilitata a esercitare la professione medica, che anzi adesso ti dice di andare in ospedale anche se hai preso quattro pasticche di ibuprofene, e che, soprattutto se hai una malattia seria, non dovresti usare al posto di un medico: dovresti seguire i medici. Sebbene, dopo 270mila messaggi complessivi e almeno 158 manifestazioni di preoccupazione sulla sospensione di un farmaco, ma anche molto prima, direi già dopo 100, qualsiasi medico si romperebbe le palle e direbbe: “Senta, signora, faccia quello che vuole”.