Il nuovo report di Anthropic sui tentativi, bloccati, di usare i modelli Claude per ricerche su virus ad alto rischio ha riacceso l’attenzione su un tema finora percepito come di nicchia: il potenziale ruolo dell’intelligenza artificiale nella progettazione e ottimizzazione di agenti patogeni. Per chi lavora in sanità, virologia o salute pubblica, la domanda non è più teorica, ma riguarda la biosicurezza dei laboratori e la prevenzione di nuove minacce infettive.
Secondo l’Organizzazione Mondiale della Sanità, molte ricerche nelle scienze della vita sono a uso “dual use”: le stesse conoscenze possono servire a sviluppare vaccini o a costruire armi biologiche. I grandi modelli linguistici e gli strumenti di analisi computazionale si collocano esattamente in questa zona grigia. Possono accelerare diagnosi, sorveglianza e risposta a focolai, ma possono anche ridurre le barriere tecniche per esperimenti su virus a elevato potenziale pandemico.
Come i modelli di IA possono essere usati nella ricerca su virus ad alto rischio
I modelli avanzati di intelligenza artificiale, inclusi i large language models, possono assistere nella progettazione di esperimenti, nella scrittura di protocolli di laboratorio e nell’analisi di dati genomici di virus e batteri. Secondo contributi pubblicati su Nature, questi sistemi possono suggerire strategie di manipolazione genetica o combinazioni di mutazioni, riducendo il livello di esperienza necessario per impostare esperimenti complessi con possibili ricadute sulla biosicurezza.
L’European Centre for Disease Prevention and Control descrive come l’IA possa modellare la diffusione di malattie infettive e analizzare sequenze di patogeni, con evidenti vantaggi per la sorveglianza. La stessa capacità di simulare scenari di trasmissione potrebbe però, in mani ostili, aiutare a ottimizzare la dispersione di agenti biologici. Un quadro simile emerge anche quando si analizzano i rischi legati alla biosicurezza nella ricerca su virus ad alto rischio.
Nei documenti dell’Organizzazione Mondiale della Sanità sull’uso responsabile delle scienze della vita si sottolinea che strumenti digitali, intelligenza artificiale e software di progettazione biologica devono rientrare a pieno titolo nelle valutazioni di rischio. Questo vale in particolare quando facilitano la manipolazione di agenti classificati come “select agents”, secondo la lista dei Centers for Disease Control and Prevention, che comprende virus, batteri e tossine utilizzabili come armi biologiche.
Cosa ha rilevato Anthropic sui tentativi di uso improprio dei modelli Claude
Nel nuovo report, Anthropic riferisce di aver intercettato tentativi di utilizzare i modelli Claude per ottenere assistenza in ricerche su virus ad alto rischio e possibili armi biologiche. La società descrive richieste mirate a ottenere protocolli sperimentali dettagliati, suggerimenti su mutazioni potenzialmente pericolose o indicazioni operative per manipolare agenti patogeni associati al bioterrorismo, in linea con quanto definito come dual use research of concern dai National Institutes of Health statunitensi.
Anthropic dichiara di avere interrotto questi tentativi grazie a filtri di sicurezza progettati per riconoscere contenuti legati a armi biologiche e a un monitoraggio degli usi ad alto rischio. Il tema si inserisce in un dibattito più ampio su come progettare salvaguardie per l’IA in ambito sanitario e biomedico, parallelo alle discussioni internazionali su biodefense e programmi di difesa biologica che coinvolgono istituzioni come i National Institutes of Health e il Dipartimento della Difesa degli Stati Uniti.
Le FAQ del governo statunitense sulla dual use research of concern chiariscono che le tecnologie emergenti, comprese quelle digitali, devono essere considerate quando aumentano la capacità di progettare, modificare o diffondere agenti biologici. In questo contesto i controlli adottati da Anthropic sono un esempio concreto delle misure che sviluppatori e gestori di sistemi di IA ad alta capacità biologica possono implementare per ridurre il rischio di uso improprio.
Rischi per la biosicurezza e per la salute pubblica: scenari realistici
Le linee guida dell’Organizzazione Mondiale della Sanità sulla biosicurezza di laboratorio indicano che qualsiasi tecnologia che faciliti la manipolazione di patogeni ad alto rischio deve essere integrata in sistemi strutturati di gestione del rischio. Per l’intelligenza artificiale questo significa valutare se i modelli possano generare istruzioni tecniche dettagliate, suggerire vie per eludere controlli o contribuire alla ottimizzazione di agenti con potenziale pandemico o di bioterrorismo.
I Centers for Disease Control and Prevention mantengono elenchi di agenti e malattie associate al bioterrorismo, tra cui virus come il vaiolo, alcuni orthopoxvirus e l’influenza aviaria ad alta patogenicità. Nella letteratura specialistica su IA e sicurezza biologica si ipotizza che strumenti di modellazione evolutiva assistita da IA possano, in teoria, aiutare a selezionare mutazioni che aumentano la trasmissibilità o la resistenza ai trattamenti, con possibili ricadute sulla salute pubblica e sulla preparazione dei sistemi sanitari.
EpiCentro, portale dell’Istituto Superiore di Sanità, evidenzia che automazione dei laboratori, biologia sintetica e analisi computazionale stanno riducendo le barriere tecniche alla manipolazione di agenti patogeni. L’intelligenza artificiale si innesta su questo scenario, come ulteriore fattore che può amplificare capacità esistenti. In parallelo l’IA viene studiata anche per migliorare la risposta immunitaria e la valutazione della risposta ai vaccini, inclusi quelli anti Covid, mostrando la natura duale di queste tecnologie.
Quali regole servono per usare l’IA in virologia e ricerca biologica in sicurezza
Il Global guidance framework for the responsible use of the life sciences dell’Organizzazione Mondiale della Sanità raccomanda che strumenti come l’intelligenza artificiale siano sottoposti a valutazioni di rischio sistematiche, che includano anche scenari di uso improprio in armi biologiche. Documenti di policy pubblicati su Nature segnalano però l’assenza di regole specifiche che impongano audit indipendenti e limiti di accesso per i modelli con elevate capacità in ambito biologico.
Negli Stati Uniti la policy governativa per il controllo istituzionale della dual use research of concern prevede che gli istituti identifichino e gestiscano i rischi associati a determinati agenti e tossine, con obblighi di revisione interna e piani di mitigazione. Le FAQ chiariscono che anche le tecnologie digitali rientrano in questo perimetro quando amplificano le capacità di ricerca. A livello internazionale si discutono soluzioni analoghe per i sistemi di IA, con proposte di controlli sull’accesso e tracciabilità dell’uso.
L’Organizzazione Mondiale della Sanità, in un documento sui principi guida dell’IA in sanità, sottolinea la necessità di controlli su accesso, monitoraggio e valutazione delle minacce alla biosicurezza. In parallelo, discussioni su regolazione e standard dell’IA in sanità coinvolgono anche il ruolo delle grandi piattaforme di modello nei flussi di dati clinici, come si osserva nel dibattito su IA, sanità e regolamentazione internazionale dei dati, con implicazioni dirette per sistemi sanitari e laboratori.
Per prevenire usi malevoli si discute inoltre di requisiti di trasparenza sui dataset di addestramento biologico, di divieti espliciti a generare contenuti operativi relativi a armi biologiche e di sistemi di rilevamento automatico di richieste sospette. Alcuni contributi propongono anche la certificazione di sistemi di IA a uso biomedico, con livelli di rischio graduati, in analogia alla classificazione dei laboratori di biosicurezza e alla regolazione degli agenti selezionati.
Nel complesso, il caso Anthropic mostra che i rischi bio-sanitari legati all’IA non sono ipotesi astratte ma richiedono misure concrete di prevenzione, dall’architettura dei modelli alle politiche di accesso, fino alle regole istituzionali su dual use e biosicurezza nei laboratori di ricerca.
Questo contenuto ha finalità informativa generale e non sostituisce il parere di un medico, di un biologo o di altri professionisti sanitari qualificati. Per decisioni su ricerca, sicurezza biologica o gestione di agenti patogeni è necessario fare riferimento alle normative vigenti e alle indicazioni delle autorità competenti.
