Come l’IA potrebbe rendere possibili pandemie catastrofiche
Questo post è stato aggiornato per includere il rilascio di Claude 4.5 Opus nel novembre 2025.
Mentre gli strumenti di IA aprono nuove strade per la progettazione di vaccini, la scoperta di farmaci e l’individuazione di malattie, stanno anche abbassando la barriera alla creazione di minacce pandemiche.
Questo post illustra la situazione a settembre 2025:
-
I modelli linguistici di grandi dimensioni (MLGD) statunitensi di frontiera sono «sull’orlo» di aiutare i principianti a costruire armi biologiche, e sono stati rilasciati con misure di sicurezza potenziate
-
I MLGD cinesi mostrano capacità comparabili ma misure di sicurezza notevolmente più deboli, assecondando il 94% delle richieste malevole contro l’8% assecondato dai modelli statunitensi
-
Gli strumenti biologici potenziati dall’IA stanno innalzando il limite di ciò che è possibile. Recenti studi hanno generato 16 nuovi virus, diversi dei quali più contagiosi rispetto alle loro controparti naturali. Molti strumenti ad alto rischio sono completamente open-source
Creare e diffondere un agente patogeno pandemico è ancora difficile, e il numero di soggetti che possiedono sia la capacità sia la motivazione per causare vittime di massa rimane esiguo. Tuttavia, dovremmo aspettarci che ciò diventi più facile man mano che i sistemi di IA diventano più potenti, e il COVID ci ha dimostrato quanto siamo impreparati.
La biologia è la più grande vulnerabilità della civiltà umana
Il COVID-19 ha causato la morte di circa 27 milioni di persone in tutto il mondo ed è costato decine di migliaia di miliardi di dollari. Ciò prosegue una tendenza secolare che vede le malattie pandemiche tra i disastri più letali per l’umanità.
Dal 1900, solo sette disastri acuti hanno causato più di 10 milioni di vittime:
-
Pandemia di «influenza spagnola» del 1918 (1918-1920): 50-100 milioni di morti
-
Seconda guerra mondiale (1939-45): ~66 milioni di morti
-
Grande carestia cinese (1959-1961): ~36 milioni di morti
-
Pandemia di HIV/AIDS (1981-oggi): ~33 milioni di morti
-
Pandemia di COVID-19 (2019-2024): circa 27 milioni di morti
-
Carestia cinese (1906–1907): 20-25 milioni di morti
-
Prima guerra mondiale (1914-18): circa 15 milioni di morti
A titolo di confronto:
-
Tutte le altre guerre dal 1800 al 2011 hanno causato complessivamente la morte di circa 9 milioni di combattenti.
-
Tutte le catastrofi naturali dal 1900, escluse malattie e carestie, hanno causato complessivamente la morte di circa 23 milioni di persone.
Ciò non sorprende: un agente patogeno invisibile e in grado di autoreplicarsi, che si diffonde da persona a persona, è un modo devastante per uccidere molte persone in un breve lasso di tempo.
Questo non è sfuggito all’attenzione dei governi, dei gruppi terroristici e degli individui isolati senza scrupoli.
In vari momenti del XX secolo, l’Unione Sovietica, il Giappone, gli Stati Uniti e molti altri Stati hanno condotto importanti programmi di sviluppo di armi biologiche. La Russia, la Corea del Nord e la Cina sono ampiamente sospettate di mantenere tali programmi ancora oggi, nonostante siano firmatarie della Convenzione per le armi biologiche.
I gruppi Rajneeshee e Aum Shinrikyo tentarono entrambi attacchi terroristici utilizzando armi biologiche negli anni ’80 e ’90. L’Aum Shinrikyo aveva obiettivi esplicitamente apocalittici, volti a causare morti di massa. Gli attacchi all’antrace del 2001 negli Stati Uniti furono probabilmente perpetrati dal «lupo solitario» Bruce Edwards Ivins, scienziato presso i laboratori di biodifesa del governo statunitense a Fort Detrick.
La biologia sintetica e l’intelligenza artificiale stanno aprendo una nuova frontiera
Biologia sintetica
Da quando, a metà del XX secolo, si è scoperto che il DNA è il principale materiale biologico ereditario, è iniziata la corsa per comprendere e manipolare il linguaggio fondamentale della vita.
I primi strumenti rudimentali per leggere e modificare il DNA furono sviluppati negli anni ’70 e ’80, e da allora sono diventati costantemente più economici e potenti. Il sequenziamento del DNA (la lettura delle «lettere» che compongono il «linguaggio» del DNA) nel 2025 è un milione di volte più economico rispetto al 2003, anno in cui fu completato il Progetto Genoma Umano. I primi enzimi per il taglio del DNA, sviluppati negli anni ’70, potevano tagliare solo siti specifici, mentre i sistemi CRISPR odierni sono in grado di apportare modifiche con una precisione quasi a livello di singolo nucleotide.
Oltre a leggere e modificare il DNA, siamo in grado di scrivere e stampare genomi partendo da zero. I costi della sintesi del DNA non sono diminuiti in modo così drastico come quelli del sequenziamento (oggi costa solo 20 volte meno rispetto al 2005), ma siamo comunque riusciti a costruire organismi sintetici più complessi. Il primo virus completamente sintetico è stato creato nel 2002, mentre il primo batterio completamente sintetico risale al 2010. Da allora, abbiamo creato nuovi batteri con tutti i geni non necessari eliminati e con genomi ricodificati.
Abbiamo già constatato i benefici della biologia sintetica applicata. L’insulina umana sintetica prodotta dai batteri ha trasformato la cura del diabete sin dal 1983. L’artemisinina semisintetica per il trattamento della malaria ha stabilizzato l’approvvigionamento e ridotto la volatilità dei prezzi. I vaccini a mRNA contro il COVID-19 sono stati sviluppati e autorizzati 10 volte più velocemente di qualsiasi altro vaccino nella storia e probabilmente hanno salvato milioni di vite.
La biologia sintetica ha inoltre aperto nuove strade per le armi di distruzione di massa, ben oltre ciò che la natura ha progettato.
I gene drive sono sequenze di DNA in grado di replicarsi autonomamente, in modo da essere trasmesse a tutta la prole negli organismi che si riproducono sessualmente. Inizialmente sono stati proposti per rendere le popolazioni di zanzare resistenti al parassita della malaria, e i test di laboratorio dimostrano che sono efficaci, ma in teoria potrebbero essere progettati per le colture o persino per gli esseri umani.
Più recentemente, un gruppo di eminenti esperti di biologia sintetica ha esortato alla cautela nella ricerca sulla «vita speculare». Si tratta di organismi biologici il cui DNA e le cui proteine sono l’immagine speculare di quelli presenti in natura. Le proteine speculari trovano impiego in ambito terapeutico e sono state condotte alcune ricerche preliminari per progettare organismi interamente speculari, sebbene ci vogliano ancora decenni prima che ciò sia possibile. La preoccupazione principale in questo caso è che i batteri speculari potrebbero nutrirsi di sostanze nutritive non chirali (cioè simmetriche, per cui l’immagine speculare è identica alla versione naturale). Potrebbero infettare esseri umani, animali e colture e il nostro sistema immunitario avrebbe difficoltà a riconoscerli e a eliminarli. Dall’articolo sulla vita speculare:
“Sebbene inizialmente fossimo scettici sul fatto che i batteri speculari potessero rappresentare gravi rischi, ne siamo diventati profondamente preoccupati. Eravamo incerti sulla fattibilità di sintetizzare batteri speculari, ma siamo giunti alla conclusione che il progresso tecnologico probabilmente lo renderà possibile. Eravamo incerti sulle conseguenze di un’infezione da batteri speculari negli esseri umani e negli animali, ma un attento esame degli studi esistenti ci ha portato a concludere che le infezioni potrebbero essere gravi. A differenza delle precedenti discussioni sulla vita speculare, ci siamo anche resi conto che i batteri speculari eterotrofi generalisti potrebbero trovare una vasta gamma di nutrienti negli ospiti animali e nell’ambiente e quindi non sarebbero intrinsecamente biocontenuti.
Chiediamo un ulteriore esame dei nostri risultati e ulteriori ricerche per migliorare la comprensione di questi rischi. Tuttavia, in assenza di prove convincenti in grado di rassicurarci, la nostra opinione è che i batteri speculari e altri organismi speculari non dovrebbero essere creati. Riteniamo che ciò possa essere garantito con un impatto minimo sulla ricerca con scopi benefici e chiediamo un ampio coinvolgimento per definire la strada da seguire.”
Sebbene questo esempio specifico sia ancora teorico, esso illustra come la biologia sintetica possa ampliare lo spazio delle possibilità per le minacce biologiche oltre ciò che la natura ha reso possibile.
IA
I modelli di IA stanno già accelerando scoperte benefiche nel campo della biologia sintetica. In particolare, il Premio Nobel per la Chimica 2024 è stato assegnato ai progettisti di AlphaFold2, un modello di IA che prevede la struttura delle proteine a partire dalle sequenze di aminoacidi.
Per quanto riguarda i rischi, vi sono due ambiti che destano preoccupazione tra gli esperti:
-
I MLGD che consentono a un maggior numero di persone di sviluppare e diffondere agenti patogeni pericolosi, aiutando i principianti a progettare gli esperimenti e a risolverne i problemi
-
Strumenti biologici potenziati dall’IA che aumentano il potenziale di danno attraverso la biologia sintetica innovativa
MLGD
Anthropic e OpenAI sono le uniche aziende che pubblicano valutazioni dettagliate dei propri modelli in materia di armi biologiche. Queste valutazioni misurano la capacità dei modelli di elaborare piani dettagliati end-to-end su come sintetizzare un’arma biologica, risolvere i problemi degli esperimenti in laboratorio ed eludere i controlli di sicurezza delle aziende di sintesi del DNA.
Entrambe le aziende hanno dichiarato, in occasione del rilascio dei loro ultimi modelli, di essere sul punto di aiutare i principianti a costruire armi biologiche e hanno rilasciato i modelli con adeguate misure di sicurezza.
GPT-5 di OpenAI (agosto 2025):
“Abbiamo deciso di considerare questo lancio come di Elevata capacità nel campo biologico e chimico, attivando le relative misure di sicurezza di preparazione. Non disponiamo di prove definitive che questo modello possa aiutare in modo significativo un principiante a causare gravi danni biologici, la nostra soglia definita per l’Elevata capacità, e il modello rimane sull’orlo di poter raggiungere tale capacità.”
Claude 4 Opus di Anthropic (maggio 2025):
“Il risultato di Claude Opus 4 è sufficientemente vicino da non permetterci di escludere l’ASL-3 [Livello 3 di sicurezza dell’IA].”
“La nostra soglia di capacità ASL-3 per le armi CBRN (chimiche, biologiche, radiologiche e nucleari) misura la capacità di aiutare in modo significativo individui o gruppi con un background tecnico di base (ad esempio, una laurea triennale in discipline STEM) a creare/ottenere e impiegare armi CBRN.”
Claude 4.5 Sonnet di Anthropic (settembre 2025):
“Nel complesso, abbiamo riscontrato che Claude Sonnet 4.5 ha dimostrato una migliore conoscenza della biologia e ha mostrato un uso più avanzato degli strumenti nelle valutazioni di biosicurezza basate su agenti rispetto ai precedenti modelli Claude. In particolare, Claude Sonnet 4.5 ha superato i modelli Claude Opus 4 e Claude Opus 4.1 sia nei compiti estesi di virologia, sia in diversi sottocompiti della valutazione di screening della sintesi del DNA, ottenendo al contempo prestazioni comparabili in tutte le altre valutazioni. Di conseguenza, abbiamo stabilito che le misure di sicurezza ASL-3 fossero appropriate.”
Claude 4.5 Opus di Anthropic (novembre 2025):
“In particolare, in un test di potenziamento degli esperti, Claude Opus 4.5 si è rivelato significativamente più utile per i partecipanti rispetto ai modelli precedenti, portando a punteggi sostanzialmente più alti e a un minor numero di errori critici, ma ha comunque prodotto errori critici che hanno generato protocolli non praticabili.”
“L’esclusione CBRN-4 è meno chiara per Claude Opus 4.5 di quanto vorremmo. Gran parte della nostra incertezza riguardo all’esclusione è dovuta anche alla nostra comprensione limitata delle componenti necessarie del modello di minaccia. Il CBRN-4 richiede di innalzare un programma statale di armi biologiche di secondo livello alla sofisticazione e al successo di uno di primo livello.”
I modelli cinesi all’avanguardia come DeepSeek V3.1, Qwen3 e Kimi K2 mostrano punteggi paragonabili a quelli dei modelli statunitensi di frontiera in materia di ragionamento scientifico, matematica e ragionamento generale, sebbene ci manchino valutazioni dettagliate sulle armi biologiche. L’aspetto fondamentale è che le misure di sicurezza su questi modelli sono molto più deboli rispetto a quelle dei modelli statunitensi. Uno studio del settembre 2025 condotto dal Centro statunitense per gli standard e l’innovazione nell’IA ha rilevato che il modello più sicuro di DeepSeek (R1-0528) ha assecondato il 94% delle richieste palesemente dannose che utilizzavano tecniche comuni di jailbreaking, rispetto all’8% assecondato dai modelli di riferimento statunitensi. Ciò significa che, mentre i laboratori statunitensi possono implementare con successo misure di sicurezza, i modelli cinesi offrono un’alternativa accessibile per un potenziale uso improprio.
Strumenti biologici potenziati dall’IA
Il termine «strumenti biologici potenziati dall’IA» (SB) è un’espressione generica che indica i modelli di IA addestrati su dati biologici. A differenza delle capacità generali dei modelli linguistici di grandi dimensioni, sono efficaci in un compito specifico (ad esempio, AlphaFold prevede la struttura delle proteine).
Lo studio più completo sugli SB condotto finora ha preso in esame 1 107 strumenti con una vasta gamma di capacità, tra cui la progettazione di vettori virali, l’ingegneria proteica e la previsione delle interazioni ospite-patogeno. Dei 1 107 strumenti di bio-IA esaminati, 57 sono stati definiti «all’avanguardia». Di questi, 13 sono stati classificati come «rossi» per le elevate capacità rilevanti ai fini dell’uso improprio, unite alla maturità tecnologica. Il dato più preoccupante: il 61,5% degli strumenti classificati come «rossi» è completamente open source.
Gli esperti restano in disaccordo sulla possibilità che gli SB siano in grado di produrre agenti biologici più pericolosi dei patogeni evolutisi naturalmente. Gli scettici sottolineano che l’evoluzione ottimizza da miliardi di anni; i patogeni progettati dall’uomo potrebbero avere difficoltà a eguagliare contemporaneamente la virulenza, la trasmissibilità e la capacità di eludere il sistema immunitario presenti in natura. Altri ribattono che l’evoluzione ottimizza l’idoneità dei patogeni, non il danno per l’uomo, e che i patogeni progettati dall’IA potrebbero essere ottimizzati per proprietà che l’evoluzione non selezionerebbe, come periodi di incubazione prolungati o resistenza ai vaccini.
Per fornire un esempio illustrativo di ciò che gli SB di frontiera sono in grado di fare, si consideri il «modello linguistico genomico» (MLg) Evo 2. Anziché essere addestrato sul linguaggio naturale, è addestrato su sequenze di DNA provenienti da oltre 100 000 specie diverse.
Nel settembre 2025, i ricercatori hanno compiuto una svolta utilizzando Evo 2 per generare i primi nuovi genomi funzionali creati tramite IA. Hanno costruito 16 virus sintetici basati sul ΦX174, un batteriofago che ha come bersaglio E. coli. Molti di questi virus sintetici sono sufficientemente distinti da qualsiasi virus conosciuto da poter essere classificati come specie a sé stanti. Inoltre, alcuni erano notevolmente più infettivi rispetto al ΦX174 originale.
Date le potenziali preoccupazioni relative alla biosicurezza, il team di Evo2 ha escluso dai dati di addestramento i virus che infettano gli esseri umani. Tuttavia, il codice, i parametri del modello e i dati di addestramento di Evo2 sono completamente open source, e un soggetto sufficientemente motivato potrebbe probabilmente effettuare il fine-tuning del modello su queste sequenze virali.
[In due minuti di ricerca su Google ho scoperto che è disponibile un tutorial pubblico su come effettuare il fine-tuning di Evo2 e che il governo degli Stati Uniti gestisce un ampio database open source di genomi virali umani.]
La finestra per mettere a punto le difese si sta chiudendo
Date queste capacità, perché non abbiamo ancora assistito a un attacco bioterroristico reso possibile dall’IA? Permangono diversi ostacoli. Creare e diffondere un agente patogeno in grado di provocare una pandemia è ancora difficile e richiede conoscenze tacite che vanno oltre ciò che forniscono i MLGD. Le competenze di laboratorio, l’accesso alle attrezzature e la capacità di risoluzione dei problemi restano importanti. Il numero di soggetti che possiedono sia la capacità sia l’intento di causare vittime su larga scala rimane esiguo. E, cosa fondamentale, i modelli di IA con capacità di assistenza significative esistono da meno di un anno.
Ma questi ostacoli si stanno erodendo. I MLGD stanno migliorando nella risoluzione interattiva dei problemi. L’automazione biologica sta riducendo la necessità di competenze pratiche. E man mano che gli ostacoli legati alle capacità vengono meno, il numero di soggetti che hanno accesso a queste capacità aumenta. L’assenza di attacchi finora ci dice di più sulle barriere attuali e storiche che sul rischio futuro.
Abbiamo una finestra di tempo ristretta per mettere a punto difese in grado di affrontare questa minaccia. Lo screening completo della sintesi del DNA è il collo di bottiglia critico tra la progettazione in silico e la produzione fisica: dovrebbe essere obbligatorio e globale prima che le sequenze progettate dall’IA diventino facilmente accessibili. Oltre a ciò, dobbiamo espandere le attuali infrastrutture per la preparazione alle pandemie: sequenziamento metagenomico per l’individuazione precoce dei focolai, scorte di DPI per un impiego immediato e tecnologie basate su piattaforme a mRNA per la produzione rapida di vaccini. Gran parte della tecnologia necessaria esiste già, deve solo essere finanziata e messa in campo.