Un pastore della Florida ha intentato una causa contro OpenAI sostenendo che il chatbot ChatGPT lo ha dissuaso dal cercare cure mediche per un embolia polmonare, una condizione con un tasso di mortalità del 30%. Il caso, riportato dal New York Times, evidenzia i rischi di affidarsi all'intelligenza artificiale per consulenze sanitarie.
Il consiglio pericoloso di ChatGPT ha aggravato le condizioni del paziente
Secondo la denuncia, Scott Winters, un pastore di 47 anni, aveva consultato ChatGPT per dei sintomi preoccupanti. Il chatbot, basato sul modello GPT-4o, lo avrebbe rassicurato affermando che non si trattava di nulla di pericoloso e lo ha invitato a riposare, confidando che Dio non avesse progettato il corpo umano per fallire. Invece di cercare un medico, Winters ha seguito il consiglio, rimanendo immobile per settimane. Quando è stato finalmente ricoverato in terapia intensiva, i medici hanno diagnosticato una serie di embolie polmonari aggravate proprio dall'immobilità prolungata.
Sponsored Protocol
Questo episodio non è isolato. Centinaia di milioni di persone ogni settimana pongono domande mediche ai chatbot AI. Una analisi delle ricerche su Microsoft Copilot ha rivelato che le questioni di salute sono tra le più frequenti. Nonostante gli avvertimenti sulle allucinazioni dei modelli linguistici, molti utenti continuano a trattare questi strumenti come sostituti di un medico.
Il rischio di affidarsi all'AI per diagnosi mediche
L'American Medical Association e altre organizzazioni sanitarie hanno più volte messo in guardia contro l'uso di chatbot per consigli medici. I modelli AI non hanno la capacità di eseguire esami fisici né di valutare la complessità dei sintomi. Inoltre, tendono a generare risposte sicure di sé anche quando sono errate, un fenomeno noto come allucinazione. Nel caso del pastore, il chatbot ha persino introdotto un riferimento religioso che ha rafforzato la sua decisione di non rivolgersi a un medico.
Sponsored Protocol
OpenAI ha dichiarato di aver preso atto della causa e di lavorare per migliorare la sicurezza del modello, ma il danno è già stato fatto. Questo episodio dimostra che, per quanto utili in molti ambiti, i chatbot non dovrebbero mai essere utilizzati come sostituti di una consulenza medica professionale. Come hanno ricordato esperti di vari settori, la tecnologia può supportare la diagnosi, ma non sostituire il giudizio clinico umano.
Per chi cerca informazioni sanitarie affidabili, fonti come il sito del Ministero della Salute o l'Organizzazione Mondiale della Sanità rimangono la scelta migliore. Anche una semplice ricerca su Google può essere più sicura di un chatbot, dato che i motori di ricerca almeno indicano le fonti. In un contesto dove gli algoritmi di matching delle informazioni sono sempre più sofisticati, come spiegato nell'articolo sull'uso della Fetch API per gestire dati, è fondamentale ricordare che i dati medici richiedono una gestione umana attenta.
Sponsored Protocol
La vicenda del pastore Winters rappresenta un monito per tutti. Mentre l'AI continua a evolversi, la prudenza deve rimanere la regola principale quando si tratta di salute. Nessun algoritmo può sostituire il consiglio di un medico.
