Intentare causa a OpenAI per delle risposte di ChatGPT sta diventando una moda, e più che la responsabilità dell’intelligenza artificiale dimostra sempre quanto sia perfetta la deficienza naturale degli utenti.
Questa volta il caso riguarda Scott Winters, un ex pastore di 55 anni della Florida che ha citato in giudizio OpenAI e Sam Altman davanti alla Corte superiore della contea di San Francisco, sostenendo che i consigli medici ricevuti nel 2025 da ChatGPT-4o lo avrebbero indotto a ritardare le cure per una grave embolia polmonare.
Secondo la causa, Winters si era rivolto al chatbot per ricorrenti vertigini e sbalzi di pressione: ChatGPT avrebbe inizialmente consigliato di consultare un medico, in seguito (attenzione) avrebbe minimizzato i sintomi, suggerendogli di restare a casa, limitare i movimenti e trascorrere molto tempo su una poltrona reclinabile. Quando l’uomo segnalò anche un dolore all’inguine, il chatbot gli avrebbe risposto che probabilmente non si trattava di nulla di pericoloso, utilizzando anche espressioni legate alla sua fede, come “Dio non ha creato il tuo corpo perché continui a guastarsi”. Il giorno successivo Winters è stato ricoverato per una vasta embolia polmonare e sottoposto a un intervento d’urgenza. Leggendo la denuncia i medici avrebbero collegato la formazione dei coaguli anche alla prolungata immobilità. Winters accusa OpenAI di negligenza, responsabilità per prodotto difettoso, esercizio abusivo della medicina e violazione delle norme californiane sulla concorrenza sleale e chiede un risarcimento e nuove misure di sicurezza (sono state già introdotte da tempo, baby), tra cui l’interruzione automatica delle conversazioni quando emergano sintomi che richiedono assistenza immediata e la sospensione di ChatGPT Health fino a una verifica indipendente. OpenAI ha replicato che ChatGPT non è un medico (ecco) e non deve essere utilizzato in sostituzione delle cure e della diagnosi.
Va da sé tutto da verificare, però già qui tutto ridicolo, e alcune dinamiche si possono già ipotizzare. È come se prima dei LLM (Claude, Gemini, ChatGPT ecc) uno avesse fatto causa a Google per avere cercato, partendo da sintomi, le diagnosi più rassicuranti. Oltretutto, leggo due elementi interessanti: il pastore stava utilizzando 4o, un modello più datato e probabilmente in versione gratuita, ha ignorato il consiglio di andare dal medico, e molto probabilmente ha insistito molto per farsi dare una risposta come “Dio non ha creato il corpo perché continui a guastarsi”. Anzi, è un indizio interessante: un chatbot, soprattutto nelle conversazioni lunghe, può finire per compiacere l’utente (il fenomeno è noto come psicofantia), e i modelli precedenti lo facevano ancora di più, e una frase del genere è difficile farla uscire a ChatGPT per conto suo (provateci).
Spesso succede il contrario: ChatGPT o Claude hanno salvato vite avendo individuato sintomi sfuggiti al pronto soccorso (nessuna persona salvata ha inviato un premio a Sam Altman). Vi dirò: qualsiasi persona, pressata dal suddetto pastore, avrebbe detto a un certo punto fai come ti pare, anzi non è niente. Tra l’altro non sappiamo neppure cosa ha detto a ChatGPT e cosa no, se non gli piaceva andare dal medico (stava sempre sul divano) può aver omesso sintomi, può averli modificati, può averli minimizzati al fine di farsi dire quello che voleva sentirsi dire, e il primo suggerimento (non credo solo il primo) era andare dal medico. Le AI possono inventarsi cose (“allucinare” come si dice in gergo)? Sì, gli umani lo fanno sempre e molto di più.
Come finirà la causa? Io scommetto in niente, però se uno convince un’AI a farsi dire quello che vuole, risparmia pure sul piano tariffario, ignora perfino che versione sta usando e quale modalità ha selezionato, e in ogni caso la ascolta su questioni mediche (molto meglio di cercare informazioni su Google, credetemi, ci vuole veramente tanto per mandare fuori strada ChatGPT) ascoltando se stesso, beh, è l’utente che avrebbe
bisogno di un TSO. Totò gli avrebbe detto: “Una causa all’AI perché non è andato dal medico? Ma mi faccia il piacere!”.