I chatbot che potrebbero farti rifiutare il vaccino

Un paziente che esita sul vaccino, una donna incinta che chiede chiarimenti su farmaci e gravidanza, un caregiver che cerca consigli educativi: sempre più spesso queste domande vengono rivolte a un chatbot di intelligenza artificiale invece che a un professionista. Gli studi più recenti mostrano che alcuni sistemi conversazionali sono in grado di risultare molto convincenti, modificando atteggiamenti e intenzioni in pochi scambi.

In ambito sanitario questo potere persuasivo è ambivalente. Può favorire l’adesione a terapie efficaci, ma anche rafforzare diffidenza verso vaccini, alimentare infodemia o promuovere pratiche non validate. Editoriali su riviste come BMJ, The Lancet e il New England Journal of Medicine sottolineano che l’intelligenza artificiale generativa deve restare uno strumento di supporto, con supervisione umana e regole chiare, per evitare rischi per pazienti e professionisti.

Come funzionano i chatbot AI persuasivi e perché sono così efficaci

I chatbot di intelligenza artificiale più avanzati sono basati su modelli linguistici di grandi dimensioni, addestrati su enormi quantità di testi per prevedere la parola più probabile successiva. Durante una fase successiva, spesso vengono “affinati” con feedback umano per risultare più utili, educati e convincenti. Questa combinazione permette di generare risposte fluide, coerenti e adattate al contesto, percepite come competenti da molti utenti.

Ricerche pubblicate su riviste internazionali descrivono come questi sistemi apprendano anche schemi argomentativi e bias sociali, riproducendo toni rassicuranti o assertivi a seconda del dialogo. Studi su agenti conversazionali usati in programmi educativi, come il chatbot Pat, mostrano la creazione di una vera alleanza percepita, con alta soddisfazione e fiducia, elementi che rendono l’interlocutore digitale particolarmente persuasivo rispetto a informazioni su salute e comportamenti preventivi. Approfondimenti sui rischi dell’intelligenza artificiale in sanità aiutano a contestualizzare questi dati.

Rischi per la salute: misinformazione medica, bias e decisioni terapeutiche

Commenti apparsi su JAMA e su The Lancet avvertono che i chatbot, se usati per fornire consigli clinici, possono produrre contenuti convincenti ma errati. Si parla di misinformazione medica quando vengono suggerite terapie non validate, schemi di farmaci inappropriati o interpretazioni scorrette di sintomi e esami. L’Organizzazione mondiale della sanità, nei documenti sull’infodemia, collega direttamente la circolazione di informazioni fuorvianti a comportamenti preventivi e terapeutici inadeguati.

I modelli linguistici possono inoltre amplificare bias preesistenti nei dati, ad esempio minimizzando i sintomi riferiti da alcune popolazioni o enfatizzando rischi non documentati per certi trattamenti. Il risultato può essere un impatto sulle decisioni terapeutiche, dall’esitazione vaccinale al rifiuto di farmaci salvavita, ma anche l’adozione di protocolli non sicuri. Studi discussi dal National Institutes of Health ricordano che senza governance, trasparenza e supervisione clinica questi sistemi non dovrebbero orientare in autonomia scelte di cura. Su scala più ampia, l’OMS Africa segnala che l’infodemia digitale può compromettere anche la lotta alle malattie infettive. Un quadro più ampio dei nodi regolatori emerge nelle analisi sull’app per la dieta e i loro limiti in termini di utilità e privacy.

L’uso di chatbot AI in sanità rappresenta quindi un equilibrio delicato tra opportunità e rischi. La loro capacità persuasiva può sostenere percorsi di cura, ma richiede regole chiare, consapevolezza degli utenti e un ruolo centrale del giudizio clinico umano, per evitare che informazioni inesatte o bias influenzino comportamenti di salute e benessere psicologico.

Questo contenuto ha finalità informativa e non sostituisce il parere del medico o di altri professionisti sanitari qualificati.

Per approfondire

JAMA Psychiatry, editorial su interazione con AI e deliri discute come l’uso prolungato di chatbot possa favorire credenze distorte in persone vulnerabili, suggerendo ai clinici di monitorare il rapporto dei pazienti con l’intelligenza artificiale conversazionale.

JAMA, commento su AI e miglioramento della salute analizza il potenziale dei sistemi di intelligenza artificiale in ambito sanitario e i rischi di errori e disuguaglianze in assenza di adeguata governance e supervisione.

Studio su Pat, agente conversazionale per caregiver valuta l’alleanza terapeutica, la soddisfazione e l’aderenza in un programma di parent management training supportato da un chatbot AI dedicato.

Rapporto AIRA Infodemic Trends dell’OMS Africa esamina l’impatto della disinformazione digitale su malattie come la malaria e collega infodemia, comunicazione online e comportamenti sanitari nelle popolazioni.

Documenti OMS su salute digitale e infodemia raccolgono linee guida e materiali sull’uso responsabile di tecnologie basate su intelligenza artificiale, inclusi i chatbot, per ridurre la diffusione di informazioni sanitarie inaccurate.