Quali rischi comporta usare l’intelligenza artificiale in sanità?

L’uso di strumenti di intelligenza artificiale (AI) in sanità sta crescendo rapidamente: software che leggono radiografie, algoritmi che analizzano esami del sangue, applicazioni che propongono diagnosi in base ai sintomi inseriti dal paziente. Alcuni studi recenti hanno però messo in luce errori, limiti e potenziali distorsioni di questi sistemi, riaprendo con forza il dibattito su quanto ci si possa davvero fidare dell’AI quando è in gioco la salute.

Questa evoluzione tecnologica offre opportunità importanti, ma comporta anche rischi se l’AI viene usata senza un controllo rigoroso da parte dei professionisti sanitari o, peggio, in autonomia dai pazienti. In questo articolo analizziamo perché l’AI viene usata in medicina, quali sono i suoi limiti, perché non può sostituire il medico e come integrarla in modo consapevole nel percorso di cura.

Perché l’intelligenza artificiale è sempre più usata in sanità

L’intelligenza artificiale è sempre più presente in sanità perché permette di analizzare grandi quantità di dati clinici in tempi molto ridotti, individuando pattern e correlazioni difficili da cogliere a colpo d’occhio anche per un esperto. Algoritmi di tipo “machine learning” e “deep learning” vengono addestrati su migliaia o milioni di immagini radiologiche, tracciati elettrocardiografici o cartelle cliniche, con l’obiettivo di riconoscere segnali precoci di malattia o di supportare il medico nella scelta della terapia più appropriata.

Le applicazioni vanno dalla radiologia alla dermatologia, dalla cardiologia all’oncologia, fino alla medicina di laboratorio e alla medicina di precisione. In pediatria, per esempio, strumenti di AI vengono esplorati per facilitare il riconoscimento di malattie rare o complesse, proprio perché sono in grado di confrontare il singolo caso con ampie banche dati di casi simili. In questi contesti l’AI non “decide” al posto del medico, ma può fornire un supporto, una lista di possibili diagnosi o un’analisi statistica che il clinico deve poi valutare criticamente sulla base della storia del paziente e dell’esame obiettivo. Approfondisci come l’AI può supportare la diagnosi di malattie rare in età pediatrica

Quali sono i principali rischi e limiti degli strumenti di AI clinica

Nonostante il loro potenziale, gli strumenti di intelligenza artificiale in ambito clinico presentano rischi e limiti che gli studi più recenti stanno evidenziando con sempre maggiore chiarezza. Un primo problema è rappresentato dai cosiddetti “bias dei dati”: se l’algoritmo viene addestrato su dati che rappresentano male alcune fasce di popolazione (per esempio per età, sesso, etnia o comorbidità), le sue previsioni possono risultare meno accurate proprio per quei gruppi, aumentando il rischio di diagnosi mancate o ritardate. Questo significa che un sistema che sembra funzionare molto bene in un contesto può invece sbagliare in modo sistematico in un altro.

Un secondo limite è legato alla “opacità” di molti modelli di AI complessi, spesso descritti come “black box”: producono un risultato (per esempio, una probabilità di tumore su una risonanza magnetica) senza che sia immediatamente chiaro, nemmeno al medico, quali elementi abbiano guidato quella decisione. Ciò rende più difficile verificare e spiegare al paziente il perché di una certa indicazione. Inoltre, gli algoritmi possono essere molto sensibili a dettagli tecnici (tipo di apparecchiatura, parametri di acquisizione, qualità dell’immagine) e degradare in modo importante se usati in contesti diversi da quelli in cui sono stati validati. Alcuni studi hanno anche rilevato che piccoli cambiamenti nell’input (ad esempio un artefatto sull’immagine o un errore di inserimento dei dati) possono generare output incoerenti o fuorvianti.

Perché l’AI non può sostituire il medico nella diagnosi e nelle cure

L’intelligenza artificiale, per quanto sofisticata, elabora informazioni secondo regole apprese dai dati: non possiede comprensione clinica, né la capacità di integrare nel loro insieme elementi che, nella pratica, hanno un peso diverso in base al contesto. Il medico, al contrario, valuta la storia completa del paziente, le comorbidità, i farmaci assunti, i fattori psicosociali, l’esame obiettivo e l’andamento nel tempo dei sintomi, elementi che spesso non sono riportati integralmente in un database o in un singolo esame strumentale.

Un algoritmo può suggerire una diagnosi probabile sulla base di un pattern radiologico, ma non è in grado di “annusare” una polmonite visitando il paziente o di cogliere elementi della comunicazione non verbale che orientano il clinico verso un disturbo d’ansia piuttosto che verso una patologia organica. Inoltre, il medico ha il compito di discutere con il paziente rischi, benefici e alternative delle scelte terapeutiche, valutando valori, preferenze e condizioni di vita individuali. L’AI non può sostituire questo processo decisionale condiviso né la responsabilità professionale che ne deriva: per questo le raccomandazioni internazionali insistono sul fatto che l’AI deve rimanere uno strumento di supporto alla decisione clinica, non un sostituto dell’esame medico e del ragionamento diagnostico-terapeutico.

Come usare in modo consapevole strumenti di AI per la propria salute

Per molti pazienti l’accesso a strumenti di AI è oggi diretto, attraverso app, siti web che propongono “check dei sintomi” o chatbot che rispondono a domande di salute. È fondamentale ricordare che questi strumenti non sono equiparabili a una visita medica: non hanno accesso a tutta la storia clinica, non vedono il paziente, non possono eseguire un esame obiettivo né richiedere accertamenti mirati. Possono talvolta aiutare ad aumentare la consapevolezza sui propri sintomi o a preparare domande per il medico, ma non devono essere usati per autodiagnosi o per decidere in autonomia di iniziare, sospendere o modificare terapie.

Un uso consapevole dell’AI da parte del paziente significa considerare qualsiasi risposta automatica come un punto di partenza e non come una verità definitiva. In pratica, è opportuno: diffidare di strumenti che promettono diagnosi sicure al 100% o che incoraggiano a non consultare un medico; usare ciò che l’AI suggerisce per organizzare meglio le informazioni da portare al professionista (ad esempio, un elenco ordinato di sintomi, con tempi di insorgenza e fattori che li peggiorano o migliorano); chiedere esplicitamente al medico se e quali strumenti di AI vengano utilizzati nel percorso diagnostico-terapeutico, e come vengono controllati; non inviare o caricare documenti clinici sensibili su piattaforme di cui non si conoscono bene le politiche di privacy e sicurezza dei dati. In caso di dubbi o di messaggi allarmanti generati da un software, il passo successivo deve essere sempre il confronto con un professionista sanitario.

Tutele, responsabilità e quando rivolgersi allo specialista

Dal punto di vista del paziente è importante sapere che, allo stato attuale, la responsabilità della decisione clinica rimane in capo al medico o alla struttura sanitaria che utilizza uno strumento di intelligenza artificiale. In altre parole, è il professionista che deve verificare, confermare o eventualmente discostarsi da quanto suggerito dal software, documentando il ragionamento clinico e informando il paziente in modo comprensibile. Gli strumenti di AI utilizzati in ambito sanitario dovrebbero essere sottoposti a procedure di valutazione, certificazione e monitoraggio, analoghe a quelle previste per i dispositivi medici, con attenzione alla sicurezza, alle prestazioni e alla protezione dei dati personali.

Il paziente dovrebbe rivolgersi tempestivamente allo specialista o al medico di medicina generale quando i sintomi sono nuovi, persistenti, in peggioramento o associati a segni di allarme (come dolore intenso, difficoltà respiratoria, alterazione dello stato di coscienza, sanguinamenti anomali), senza affidarsi a valutazioni automatiche per decidere se recarsi o meno in pronto soccorso. Inoltre, è opportuno chiedere chiarimenti ogni volta che un referto o un’indicazione terapeutica appare poco chiara, ambigua o in contrasto con quanto suggerito in precedenza. Se si ritiene di aver subito un danno legato all’uso improprio di uno strumento di AI (ad esempio un ritardo diagnostico perché un esame automatizzato è stato interpretato in modo errato senza adeguato controllo umano), è consigliabile rivolgersi al medico curante per ricostruire il percorso clinico e, se necessario, attivare i canali di tutela previsti dal sistema sanitario e dalle norme vigenti sulla responsabilità professionale e sulla sicurezza delle cure.

In sintesi, l’intelligenza artificiale rappresenta uno strumento potente e in rapida evoluzione che può supportare la medicina nella diagnosi e nella gestione di molte patologie, ma presenta limiti strutturali, possibili bias e rischi di errore che richiedono un controllo rigoroso da parte di medici e strutture sanitarie. Per i pazienti, l’atteggiamento più sicuro è considerare l’AI come un aiuto informativo e mai come un sostituto della visita, del confronto con lo specialista e del percorso diagnostico-terapeutico personalizzato.

Le informazioni contenute in questo articolo hanno carattere generale e non sostituiscono in alcun modo il parere del medico o di altri professionisti della salute. Per decisioni riguardanti diagnosi, esami o terapie è sempre necessario consultare direttamente uno specialista o il proprio medico curante.