Opinione: I Chatbot stanno diventando i Medici di Base delle persone – Impressionante, ma Rischioso

Stiamo passando rapidamente dal Dr. Google al Dr. Chatbot. Ad agosto, OpenAI ha riportato oltre 200 milioni di utenti attivi settimanali, e sebbene le domande più popolari degli utenti riguardino la scrittura e la programmazione, alcuni li utilizzano per questioni più personali, dai consigli sugli appuntamenti alle routine di cura della pelle e alle diagnosi di malattie.

Un recente studio ha rivelato che i chatbot IA superano i medici in termini di precisione diagnostica. Ma, possiamo davvero fidarci dell’IA come dei nostri medici?

Proprio come si è ampliata la gamma di argomenti su cui le persone si informano, così sono aumentate anche le preoccupazioni riguardo i rischi e i pericoli di affidarsi all’IA nel campo medico, compresi quelli che riguardano questioni di vita o di morte.

Il Dr. Chatbot diventa virale per i suoi “miracoli”

Pochi giorni fa, una donna è diventata virale su Reddit perché ha condiviso come ChatGPT l’ha aiutata a migliorare la sua pelle meglio di un dermatologo, con immagini prima-dopo davvero impressionanti.

Una donna caucasica di 37 anni ha utilizzato ChatGPT per creare una routine di skincare personalizzata per trattare i suoi comedoni chiusi, ed è stato davvero d’aiuto! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 novembre 2024

“Ho quindi dato a chatGPT un input per comportarsi come un dermatologo professionista e aiutarmi a creare una routine per la pelle che mi aiutasse a liberarmi dei miei comedoni chiusi, dell’acne, a minimizzare i pori e a rassodare la pelle, e a ridurre le linee sottili. Ho anche fornito fotografie della mia pelle in quel momento”, ha scritto e poi ha spiegato che ha detto al chatbot di considerare tutti i prodotti che già possedeva e di suggerirne di nuovi con una routine di skincare.

Dopo due mesi, la Reddittora era stupita dai miglioramenti della sua pelle.

Non è un caso isolato. Molti utenti hanno rivelato come i chatbot siano stati in grado di capire e spiegare le radiografie e gli esami del sangue meglio dei loro stessi medici. Perfino i medici sono rimasti stupiti dalle analisi di immagini e dati interpretate dall’intelligenza artificiale.

Perché le persone stanno usando i Chatbot come medici?

L’IA può trasformarsi nel professionista di cui hai bisogno: un medico generico, un terapeuta, un dermatologo, un nutrizionista, un radiologo, quando ne hai bisogno, e ci sono molte ragioni per cui le persone scelgono l’IA rispetto agli esseri umani.

I Specialisti Possono Essere Costosi

La donna con il problema di pelle ha rivelato di aver speso circa 400 dollari per l’acquisto dei prodotti suggeriti dal chatbot.

“È stato un bel investimento, ma quando penso a quanto sarebbe costata una consulenza con un dermatologo, questa non è nemmeno male,” ha scritto.

Secondo BetterCare, nel 2024 un paziente senza assicurazione sanitaria negli Stati Uniti dovrà pagare circa $150 per una visita dal dermatologo e fino a $1000 per un trattamento. E il costo medio di una seduta di psicoterapia – un altro uso popolare per gli strumenti di intelligenza artificiale – varia da $100 a $200 per seduta, secondo Forbes Health.

I chatbot IA sono alternative più economiche e potrebbero essere visti come l’unica scelta, specialmente per le persone nelle fasce di reddito più basse.

Naturalmente, sorge un’altra domanda: se qualcosa va storto, è davvero un risparmio sui costi?

Più Veloci e Pratici

Ho recentemente avuto una eruzione cutanea sul braccio. Nonostante avessi visto quel post miracoloso sulla pelle di quella donna, ho preferito consultare un dermatologo in Spagna. Il primo appuntamento disponibile era tra tre mesi, anche con un’assicurazione sanitaria privata. Sono fortunata che sembra essere solo secchezza, che non mi dà fastidio, e che sperabilmente se ne andrà prima che il medico possa vedermi.

I tempi per l’assistenza medica dipendono dalla città e dal piano assicurativo del paziente. Tuttavia, vedere specialisti e persino medici di base è diventato una prova di pazienza in molte parti del mondo.

I chatbot non sono solo letteralmente a portata di mano, ma possono analizzare le nostre richieste e rispondere in pochi secondi.

Meno Imbarazzante

Ho un’amica medico a cui posso rivolgermi ogni volta che ho bisogno di una consulenza medica, ma il fatto che sia mia amica a volte lo rende imbarazzante. Prima di scriverle, mi chiedo sempre: mi sono preoccupata di lei recentemente? È una grande persona e una professionista meravigliosa, e sono sicura che non smetterà mai di rispondere alle mie preoccupazioni mediche. Ma, da umana ad umana, non posso fare a meno di preoccuparmi anche dei suoi sentimenti.

Uno dei vantaggi dell’intelligenza artificiale è la sua stessa condizione artificiale. Non ha sentimenti o giornate no, non ti giudicherà né ti dirà “Smetti di essere un ipocondriaco” (non che il mio amico l’abbia mai detto a me) perché sono addestrati a essere cortesi e a rispondere a tutte le nostre preoccupazioni con tutte le informazioni che desideriamo. Fa parte di ciò che rende la tecnologia così coinvolgente, e probabilmente perché molti preferiscono fare domande imbarazzanti nella “privacy” dei loro smartphone.

I Rischi E I Pericoli Di Affidarsi Ai Chatbot

Tutto sembra fresco e divertente finché non ci prendiamo del tempo per pensare ai rischi e alle sfide che l’IA e l’umanità stanno affrontando.

Prompt Errato, Incantesimo Sbagliato

In quello studio in cui l’IA ha superato i medici, è stata tratta una conclusione importante: il gruppo di medici che aveva il permesso di utilizzare l’IA come alleato per le diagnosi non ha avuto prestazioni notevolmente migliori di coloro a cui non era stato permesso di utilizzarlo. Perché? Beh, parte del problema era che non sapevano come scrivere gli stimoli giusti per ottenere il massimo dall’IA.

“La trattavano come un motore di ricerca per domande dirette: ‘La cirrosi è un fattore di rischio per il cancro? Quali sono le possibili diagnosi per il dolore agli occhi?’,” ha detto il Dr. Jonathan H. Chen, uno degli autori dello studio, al New York Times.

Questo è uno dei problemi che molti utenti e le tecnologie AI affrontano anche. I chatbot sono bravi nella diagnosi, ma molti sintomi devono essere analizzati individualmente in modo personalizzato. Cosa succede se una persona non fornisce il contesto giusto al chatbot? O dimentica di includere dettagli importanti o condizioni che un vero medico di fronte a un paziente non perderebbe mai?

Inesattezze e Allucinazioni

I chatbot sono professionisti saputelli, e a volte dicono cose sbagliate con molta sicurezza. E noi ci crediamo. E gli utenti che si affidano quotidianamente alla tecnologia vi ripongono sempre più fiducia.

È difficile dimenticare quel periodo – a maggio – quando Google Gemini ha suggerito agli utenti di aggiungere “circa ⅛ di tazza di colla non tossica alla salsa per renderla più appiccicosa” a una pizza.

Era divertente perché potevamo subito notare l’allucinazione – quel termine elegante per quando l’IA fornisce risposte assurde. Ma cosa succede se riguarda un argomento più complesso, cosa succede se la persona che legge la risposta dell’IA è spaventata, sola e preoccupata per la propria salute?

Anche se l’IA migliora mese dopo mese, la possibilità di un errore è ancora presente.

Chi è da biasimare se qualcosa va storto?

Il dibattito etico è un argomento molto discusso al momento. Se il chatbot fornisce una diagnosi errata o un consiglio terribile, chi è da biasimare? Gli sviluppatori, il modello, l’azienda di AI, le fonti che hanno addestrato quel modello?

Un tragico caso ha sollevato preoccupazioni qualche settimana fa, quando una madre americana ha incolpato l’IA per la morte di suo figlio di 14 anni e ha intentato una causa contro la startup Character.ai, una piattaforma per creare personaggi IA. Il ragazzo soffriva di depressione e si era ossessionato con la tecnologia. Il suo avatar, Daenerys Targaryen, aveva discusso con lui un piano per suicidarsi e lo aveva persino incoraggiato a farlo.

Sebbene l’IA sia stata considerata dal World Economic Forum come uno strumento potente per alleviare le crisi di salute mentale in tutto il mondo e ridurre la percentuale crescente di casi di ansia e depressione, può essere anche pericolosa, soprattutto per i bambini.

Fallo “A Tuo Rischio”

Sebbene necessiti ancora di miglioramenti, mi piace pensare che l’IA abbia un grande potenziale per ridurre i tempi di attesa nell’assistenza sanitaria – sia per le visite specialistiche che per le cure nel pronto soccorso – per accelerare i progressi scientifici e per supportare i medici, specialmente quelli sopraffatti da carichi di lavoro eccessivi e bassi salari, come spesso accade nei paesi dell’America Latina, assistendo i pazienti con domande di base da casa.

Potrebbe anche aiutare a colmare le lacune nell’accesso all’assistenza sanitaria tra diverse classi sociali, spianando la strada per una democratizzazione della medicina come mai prima d’ora. Tutto questo è ora alla nostra portata, a solo una domanda di distanza per chiunque abbia accesso a uno smartphone.

Tuttavia, è fondamentale comprendere che siamo ancora nelle fasi iniziali e dobbiamo proteggere la popolazione più vulnerabile. Chiunque scelga di utilizzare il Dr. Chatbot per migliorare la propria salute oggi, deve farlo con la comprensione delle piccole stampe nelle condizioni e nei termini di servizio, con un pensiero critico, e con la consapevolezza che – per ora – stanno assumendosi la responsabilità dei rischi coinvolti.