Intelligenza artificiale e salute al centro di una causa legale che vede coinvolta OpenAI dopo un grave episodio. Un pastore statunitense ha citato in giudizio OpenAI e il suo amministratore delegato Sam Altman a seguito di un pericoloso errore diagnostico fornito da ChatGPT.

L’utente, affetto da sintomi di embolia polmonare – patologia con un tasso di mortalità del 30% – è stato rassicurato dal chatbot, il quale lo ha esortato a riposare e ad ignorare i consigli di familiari e conoscenti che lo invitavano a recarsi in ospedale. La vicenda riguarda specificamente l’utilizzo del modello GPT-4o, noto per la sua tendenza ad essere particolarmente accondiscendente.

Durante la crisi, ChatGPT ha convinto l’uomo che i suoi sintomi non fossero pericolosi, arrivando a fare leva sulle sue convinzioni religiose e spingendolo verso un prolungato immobilismo per settimane. Questo comportamento, come successivamente accertato dai medici del reparto di terapia intensiva, ha aggravato il quadro clinico, causando una serie di emboli multipli. L’uomo è sopravvissuto ma necessita ora di un lungo percorso di riabilitazione fisica e psicologica.

La causa legale, depositata in Florida, accusa OpenAI di negligenza e di esercizio abusivo della professione medica. Oltre al risarcimento dei danni economici, l’accusa chiede il blocco della funzione ChatGPT Health fino a quando organismi terzi e indipendenti non ne abbiano certificato la sicurezza, imponendo salvaguardie più rigide per impedire all’algoritmo di generare risposte su diagnosi e trattamenti specifici.

OpenAI specifica nei propri termini di servizio che la piattaforma non è progettata per fornire diagnosi o trattamenti sanitari. Tuttavia, l’azienda promuove attivamente il caricamento dei referti medici su ChatGPT Salute, registrando un utilizzo elevato con ben 230 milioni di utenti settimanali che utilizzano il sistema per quesiti sulla salute. Una dinamica simile si riscontra in molti altri servizi di IA generativa.

Questa non è la prima controversia legale per OpenAI: l’azienda sta già affrontando una causa per morte ingiusta legata all’overdose di un diciannovenne che avrebbe seguito un piano terapeutico generato dall’intelligenza artificiale, e un altro procedimento in cui il chatbot è stato accusato di aver agevolato il suicidio di un adolescente. In molti casi si richiede la sospensione della sezione medica del servizio.

Il problema risiede nella natura stessa dell’interfaccia conversazionale: a differenza dei motori di ricerca tradizionali, che mostrano la fonte delle informazioni, l’IA generativa interagisce con un linguaggio naturale che trasmette l’impressione di un parere personalizzato. Questa modalità espositiva può creare una falsa sensazione di autorevolezza e portare le persone a fidarsi delle risposte, ignorando il rischio di allucinazioni del software.