Luci e (molte) ombre di ChatGPT Salute

Tempo di lettura: 8 min

La recente nascita di ChatGPT Salute negli Stati Uniti ha rilanciato un tema che torna ciclicamente a far parlare di sé, ovvero il ricorso alla rete per scoprire le cause di un proprio disturbo o malessere. Molto spesso questa attività è fonte di ironia e ilarità; basta farsi un giro sui social per trovare una quantità infinita di meme su come un semplice mal di testa in rete diventi il sintomo di una patologia gravissima.

 

Eppure, sono moltissimi gli italiani che hanno ammesso di essersi rivolti almeno una volta a internet o all’intelligenza artificiale per avere delucidazioni su cosa potrebbe indicare un certo sintomo. In particolare, emerge che sono soprattutto i più giovani a farne ricorso, in quanto più avvezzi alle nuove tecnologie.

 

Questo non significa che il nuovo ChatGPT Salute sia stato lanciato allo scopo di rispondere ai quesiti degli utenti; anzi, secondo quanto riportato sul sito di OpenAI, lo sviluppatore dietro il chatbot più famoso del mondo, questo strumento è nato allo scopo di affiancare la figura del medico e per riuscirci al meglio i creatori hanno collaborato con circa 260 professionisti sanitari. Ma le perplessità su cosa significhi “affiancare” rimangono.

 

Quali sarebbero i vantaggi di cui disporrebbero i medici? Qual è l’utilizzo corretto da parte di un utente? E quali sono i rischi che possono derivare da un uso improprio? A queste domande ha risposto la Dottoressa Francesca Bondi, Medica di medicina generale e Segretaria dell’Ordine Provinciale dei Medici Chirurghi e degli Odontoiatri di Grosseto.

 

“Innanzitutto, dobbiamo ricordare che ChatGPT Salute non è ancora disponibile in Europa, ma da quanto ci arriva dagli Stati Uniti, la sua funzione sarebbe quella di stilare un profilo sanitario dell’utente sulla base di tutti gli esami, le visite, i referti e perfino le app di monitoraggio che si possono caricare al suo interno. Ciò che mi auguro è che tutto ciò non sfoci nella diagnostica o nella prescrizione di terapie, ma piuttosto nell’integrazione del fascicolo sanitario elettronico con componenti di autocura ed educative.”

 

“Ritengo, infatti, che uno strumento come ChatGPT Salute potrebbe essere molto utile se permettesse sia al paziente, sia al medico curante, di accedere a tutti gli esami svolti e a tutte le terapie a cui il primo si sottopone o si è sottoposto. Inoltre, dovrebbe integrare funzioni di telemedicina e telemonitoraggio, per rendere la popolazione più indipendente quando si parla della cura di sé. Infine, dovrebbe scoraggiare comportamenti rischiosi, come potrebbe essere prendere un antibiotico per curare infezioni virali come può essere l’influenza.”

 

Tuttavia, i rischi non sono pochi: “Anche se non conosco l’esatto funzionamento di ChatGPT Salute, posso dire che quello che io e i colleghi vediamo oggi è l’opposto di quello che secondo me dovrebbe essere un supporto alla nostra professione” afferma la Dott.ssa Bondi. “Sempre più spesso pazienti che hanno svolto ricerche su Google o con l’intelligenza artificiale si presentano con diagnosi molto improbabili o con richieste di esami inutili e talvolta dannosi. Non solo; spesso si trascura che l’intelligenza artificiale è comunque solo una macchina, che risponde a determinati input. Se questi input provengono da utenti con una bassa cultura medica, le conseguenze possono essere molto gravi.”

 

“Per capire cosa intendo dire, faccio alcuni esempi. Supponiamo che un paziente dica al chatbot di essere affetto da una certa patologia, senza specificare altro. Il chatbot potrebbe rispondere che per trattare la patologia serve assumere un determinato farmaco. Quanto affermato può anche essere corretto in linea di principio, ma magari quel farmaco si introduce solamente a un livello avanzato della malattia, che ancora non è sopraggiunto. A questo punto può crearsi la spiacevole situazione in cui il paziente vuole la prescrizione di un medicinale, il medico non acconsente e così si creano frizioni e si incrina il rapporto di fiducia. Stesso discorso per gli esami: un sanitario può trovarsi costretto a prescrivere un esame non necessario, comportando un aumento dei costi sul nostro già compromesso Sistema sanitario nazionale.”

 

“Se mai anche in Italia e in Europa arriveremo ad avere questi strumenti a disposizione, suggerisco di usarlo solo per rapportarsi al meglio con il proprio medico, per esempio chiedendo un elenco di domande da porre, ma l’interazione diretta col professionista deve rimanere centrale.”

 

I dubbi, ma anche le speranze emerse in campo medico sono le stesse che si riscontrano in un altro settore profondamente legato alla sanità: quello assicurativo. Interrogato sui rischi e le opportunità di ChatGPT Salute, Fabrizio Farris, Direttore Operations e Processi di Blue Assistance, ha dichiarato: “ChatGPT Salute (e l’AI in generale) ci hanno consentito e ci consentiranno di fare cose che prima non erano fattibili, erano troppo costose o avevano tempi di implementazione troppo lunghi per essere messi in pista. Questo a vantaggio sia di un miglior servizio al cliente, sia dell’automatizzazione di tutti quei processi ‘gestionali’. Quindi la vediamo di sicuro come una possibile soluzione che possiamo integrare nei nostri modelli di servizio. Ma rappresenta anche una minaccia, nella misura in cui l’AI va sempre governata, soprattutto da un punto di vista di output verso il cliente: sulla salute non ci possiamo permettere allucinazioni.”

 

Anche sulla telemedicina e su una maggiore educazione sanitaria Farris condivide le posizioni espresse dalla Dott.ssa Bondi: “Di sicuro la telemedicina non sostituirà mai il rapporto medico-paziente. È però una modalità che può affiancarsi agli attuali canali ‘fisici’ (es. medico di base e pediatra) per fornire una prima indicazione al paziente in modo più rapido e con disponibilità 24/7. Quindi, in sostanza, non rischiamo di perdere nulla. Anzi aggiungiamo una modalità di fruizione complementare all’assistito che va a beneficio del sistema sanitario nel suo complesso (alleggerendo carichi su medici di medicina generale, pronto soccorso ecc…).”

 

“Trattandosi di una modalità ‘nuova’, l’educazione delle persone è fondamentale. In questo senso ChatGPT Salute può rappresentare un volano che, grazie al diffuso utilizzo da parte dei cittadini, può far aumentare la domanda di telemedicina, così come di prodotti a protezione. Allo stesso tempo, però, può alimentare ulteriormente il fenomeno dell’autodiagnosi e generare allarmismo crescente, che sono fenomeni da scongiurare nel modo più assoluto. Qui sarà determinante una corretta informazione anche da parte delle istituzioni pubbliche.”

 

Proprio il ruolo delle istituzioni pubbliche e del legislatore si legano a un ulteriore nodo che causa non proprie perplessità; nodo che rappresenta anche il motivo principale per cui ChatGPT Salute ad oggi non è ancora sbarcata in Europa, ovvero la privacy. Tra Europa e Stati Uniti sussiste una profonda differenza normativa per quanto riguarda la tutela delle informazioni sensibili, con la prima che tende a imporre vincoli molto più stringenti.

 

A fare maggiore chiarezza, sul tema è intervenuto l’Avvocato Marco Sebastiano Accorrà, Fondatore di MSÀ Law Firm, il quale ha affermato: “L’Europa, con il Regolamento Generale sulla Protezione dei Dati (GDPR), adotta un modello ‘orizzontale’ e completo, che pone l’individuo e i suoi diritti al centro. I dati sanitari sono considerati ‘categorie particolari’, il cui trattamento è di principio vietato e soggetto a condizioni rigorose. Il sistema statunitense è invece ‘settoriale’ e frammentato; privo di una normativa onnicomprensiva. Questa divergenza impone a un servizio come ChatGPT Salute, che tratta sistematicamente dati sensibili, requisiti di conformità molto più stringenti per operare nel nostro mercato, specialmente riguardo la base giuridica, i diritti degli interessati e i trasferimenti di dati extra-UE.”

 

Ma quindi, quali sono gli ostacoli legali che ChatGPT Salute dovrebbe superare per poter operare anche nel Vecchio Continente? L’Avv. Accorrà ha spiegato anche questo: “Per essere introdotto in Europa, ChatGPT Salute dovrebbe rispettare una serie di standard sostanziali e adempiere a precisi obblighi formali. Quanto ai primi, OpenAI dovrà attenersi ai principi fondamentali del GDPR (liceità, correttezza e trasparenza del trattamento, limitazione della finalità del trattamento, minimizzazione dei dati, esattezza e aggiornamento dei dati, limitazione della conservazione, integrità e riservatezza). Quanto ai secondi, dovrà adempiere ad una serie di obblighi procedurali quali, a titolo esemplificativo e non esaustivo, la Valutazione d’Impatto sulla Protezione dei Dati (DPIA) e l’eventuale consultazione preventiva dell’autorità di controllo competente.”

 

Inoltre, supponendo che alla fine il chatbox e la casa madre riescano a rientrare nei termini di legge, persistono ancora dubbi sull’effettiva sicurezza dei dati di cui viene in possesso. “Anche ipotizzando una piena conformità formale e sostanziale, persistono innegabili rischi per la privacy, come la sicurezza informatica, dove sappiamo benissimo che il rischio zero – ad oggi – non esiste.” afferma Accorrà. “In questo scenario, l’aggregazione di una quantità enorme di dati sanitari in un unico sistema crea un obiettivo di altissimo valore per gli hacker. Una violazione (detta ‘data breach’) su una tale piattaforma avrebbe conseguenze potenzialmente devastanti, come furto d’identità, pregiudizio alla reputazione e perdite finanziarie. Inoltre, l’integrazione con un ecosistema di app e fornitori esterni moltiplica i punti di potenziale vulnerabilità. La sicurezza complessiva dipende quindi non solo da OpenAI, ma da ogni singolo attore della catena.”