L’IA e l’evoluzione dei rischi biologici per la sicurezza nazionale: capacità, soglie e interventi

Sintesi

Poco dopo che il COVID-19 ha offerto al mondo un assaggio del potenziale catastrofico degli eventi biologici, gli esperti hanno iniziato ad avvertire che i rapidi progressi dell’intelligenza artificiale (IA) potrebbero presagire un mondo caratterizzato da bioterrorismo, supervirus senza precedenti e nuove armi biologiche mirate. Questi severi avvertimenti hanno raggiunto i vertici dell’industria e del governo: dagli amministratori delegati dei principali laboratori di IA al mondo, che hanno lanciato l’allarme sulle nuove capacità tecniche a disposizione dei potenziali bioterroristi, fino alla vicepresidente Kamala Harris, secondo cui le armi biologiche rese possibili all’IA «potrebbero mettere in pericolo l’esistenza stessa dell’umanità».⁠a Se così fosse, tali sviluppi esporrebbero gli Stati Uniti a minacce catastrofiche senza precedenti, ben oltre la portata distruttiva del COVID-19. Ma valutare in che misura queste preoccupazioni siano fondate — e cosa fare al riguardo — richiede di soppesare una serie di fattori complessi, tra cui:

• La storia e lo stato attuale della biosicurezza americana
• I diversi modi in cui l’IA potrebbe alterare i rischi esistenti per la biosicurezza
• Quali capacità tecniche emergenti dell’IA potrebbero influire su tali rischi
• Dove siano necessari interventi oggi

Il presente rapporto prende in esame questi fattori per fornire ai decisori politici una visione d’insieme dell’intersezione in continua evoluzione tra IA e biotecnologia, insieme a raccomandazioni concrete per arginare i rischi più gravi per la sicurezza nazionale derivanti dalle minacce biologiche.

Le fonti dei rischi biologici catastrofici sono molteplici. Storicamente, i decisori politici hanno sottovalutato i rischi rappresentati dalle attività di routine di scienziati ben intenzionati, anche se il numero di laboratori ad alto rischio per la biosicurezza e la frequenza di incidenti pericolosi — tra cui forse lo stesso COVID-19 — continuano a crescere. Gli attori statali sono stati tradizionalmente una fonte di notevole rischio per la biosicurezza, non da ultimo il programma di armi biologiche dell’Unione Sovietica, di dimensioni sconcertanti. Tuttavia, la scarsa maneggevolezza e l’imprecisione delle armi biologiche fanno sì che sia improbabile che gli Stati sferrino attacchi biologici su larga scala a breve termine, anche se il Dipartimento di Stato americano esprime preoccupazione riguardo alle potenziali capacità in materia di armi biologiche di Corea del Nord, Iran, Russia e Cina. D’altra parte, gli attori non statali — tra cui lupi solitari, terroristi e gruppi apocalittici — hanno un inquietante storico di tentativi di attacchi biologici, sebbene con scarso successo a causa della complessità intrinseca della creazione e dell’impiego di capacità così delicate.

Oggi, i rapidi progressi nel campo della biotecnologia — indipendentemente dagli sviluppi dell’IA — stanno modificando molti di questi rischi. Una combinazione di nuove tecniche di editing genomico, metodi di sequenziamento genico e strumenti di sintesi del DNA sta aprendo un nuovo mondo di possibilità nella biologia sintetica per una maggiore precisione nella manipolazione genetica e, con essa, un nuovo mondo di rischi derivanti sia dallo sviluppo di potenti armi biologiche sia da incidenti biologici. I laboratori cloud, che conducono esperimenti per conto terzi, potrebbero favorire gli attori non statali consentendo loro di esternalizzare parte delle competenze sperimentali che storicamente hanno costituito una barriera agli usi pericolosi. Sebbene la maggior parte dei laboratori cloud controlli gli ordini per individuare attività malevole, non tutti lo fanno, e l’insieme delle norme, delle convenzioni e delle misure di salvaguardia esistenti in materia di armi biologiche lascia aperta una serie di strade che consentono agli attori malintenzionati di compiere progressi significativi nell’acquisizione di armi biologiche funzionanti.

Tuttavia, le opinioni degli esperti sullo stato generale della biosicurezza statunitense variano notevolmente, soprattutto per quanto riguarda i timori relativi all’impiego di armi biologiche da parte di attori non statali. I meno preoccupati sostengono che, anche se esistessero percorsi fattibili per la realizzazione di armi biologiche, gli aspetti pratici della loro costruzione, conservazione e diffusione sono di gran lunga più complessi di quanto si creda, con numerosi potenziali punti di fallimento che le parti interessate omettono di riconoscere o sottovalutano. Sottolineano inoltre l’assenza di attacchi biologici di rilievo negli ultimi decenni, nonostante i continui avvertimenti. Uno schieramento più pessimista fa invece riferimento a esperimenti che hanno dimostrato l’apparente facilità di costruzione di potenti virus utilizzando input disponibili in commercio, nonché al progressivo abbassamento delle barriere all’accesso alle conoscenze e alle capacità tecniche necessarie per creare armi biologiche. Meno controversa è l’inadeguatezza delle difese biologiche statunitensi nell’affrontare minacce biologiche su larga scala, siano esse di origine naturale, accidentali o deliberate. Sebbene il COVID-19 abbia dimostrato l’incapacità del governo statunitense di contenere gli effetti di una grave epidemia, la nazione ha compiuto progressi limitati nel ridurre la probabilità e i potenziali danni di un’altra catastrofe biologica ancora più pericolosa.

Le nuove capacità dell’IA potrebbero ridefinire il panorama dei rischi legati alle minacce biologiche in diversi modi. L’IA sta rendendo possibili nuove capacità che, in teoria, potrebbero consentire ad attori avanzati di ottimizzare le armi biologiche per ottenere effetti più precisi, come colpire specifici gruppi genetici o aree geografiche. Sebbene tali capacità rimangano speculative, se realizzate altererebbero drasticamente gli incentivi degli Stati a ricorrere alle armi biologiche per fini strategici. Anziché mettere a rischio la salute delle proprie forze armate o delle proprie popolazioni con armi poco maneggevoli, gli Stati potrebbero sabotare la sicurezza alimentare di altre nazioni o paralizzare i nemici innescando crisi di sanità pubblica dalle quali difficilmente riuscirebbero a riprendersi. Analogamente, le stesse tecniche potrebbero portare alla creazione di supervirus ottimizzati in termini di trasmissibilità e letalità, il che amplierebbe notevolmente il potenziale distruttivo delle armi biologiche. A smorzare questi timori, tuttavia, vi sono diverse sfide tecniche che gli scienziati dovrebbero superare — ammesso che siano risolvibili.

La preoccupazione più pressante in merito ai rischi biologici legati all’IA deriva da quegli strumenti che presto potrebbero essere in grado di accelerare l’approvvigionamento di agenti biologici da parte di attori non statali. Studi recenti suggeriscono che i modelli di fondazione potrebbero presto contribuire ad accelerare la capacità degli attori malintenzionati di acquisire agenti biologici impiegabili come armi, anche se attualmente la misura in cui questi strumenti di IA possono aiutarli rimane marginale.⁠b Particolarmente preoccupanti sono le nascenti capacità dei sistemi di IA di aiutare a individuare le cause del fallimento di alcuni esperimenti, accelerando così il ciclo di retroazione “progettazione-costruzione-test-apprendimento” essenziale per lo sviluppo di agenti biologici funzionanti. Se perfezionati, gli strumenti di IA emergenti potrebbero rappresentare una manna dal cielo per i potenziali creatori di armi biologiche, fornendo in modo più dinamico alcune delle conoscenze necessarie per la produzione e l’impiego di tali armi; tuttavia, questi stessi attori si troverebbero comunque di fronte ad altri ostacoli significativi, spesso sottovalutati, nello sviluppo di armi biologiche.

L’IA potrebbe inoltre incidere sui rischi biologici in altri modi. I difetti tecnici degli strumenti di IA potrebbero non impedire ai modelli di fondazione di trasmettere informazioni biologiche pericolose a potenziali attori malintenzionati, o incoraggiare inavvertitamente ricercatori a perseguire farmaci promettenti con inaspettati effetti collaterali negativi. L’uso dell’IA per creare laboratori automatizzati più avanzati potrebbe esporli a molti dei rischi dell’automazione che storicamente hanno afflitto altri complessi sistemi automatizzati, e rendere più facile per i non specialisti sintetizzare agenti biologici (a seconda dei meccanismi di sicurezza implementati in tali laboratori). Infine, i massicci investimenti in aziende e nazioni che cercano di sfruttare il potenziale dell’IA per la biotecnologia potrebbero generare dinamiche competitive che antepongono la velocità alla sicurezza. Questi rischi sono particolarmente acuti in relazione alla Cina, dove una serie di altri fattori che plasmano l’ecosistema biotecnologico del Paese accresce ulteriormente i rischi di incidenti costosi.

Cercare di prevedere con esattezza come e quando si svilupperanno nei prossimi anni i rischi catastrofici all’intersezione tra biotecnologia e IA è un’impresa vana, data l’incertezza intrinseca riguardo al progresso scientifico di entrambe le discipline. Questo rapporto identifica invece quattro aree di capacità che esperti e decisori politici dovrebbero monitorare, in quanto avranno il maggiore impatto sui rischi catastrofici legati all’IA:

1. La capacità dei modelli di fondazione di fornire efficacemente istruzioni sperimentali per applicazioni biologiche avanzate
2. I progressi dei laboratori cloud e dell’automazione di laboratorio nel ridurre le esigenze di competenze sperimentali nella biotecnologia
3. I progressi a duplice uso nella ricerca sulla suscettibilità genetica dell’ospite alle malattie infettive
4. I progressi a duplice uso nell’ingegneria di precisione dei patogeni virali

Una particolare attenzione a queste capacità aiuterà esperti e decisori politici a stare un passo avanti rispetto ai rischi in evoluzione negli anni a venire.

Per il momento, occorre adottare le seguenti misure per contenere i rischi emergenti all’intersezione tra IA e biosicurezza:

• Rafforzare ulteriormente i meccanismi di screening per i laboratori cloud e altri fornitori di sintesi genetica
• Effettuare valutazioni regolari e rigorose delle capacità biologiche dei modelli di fondazione per l’intero ciclo di vita delle armi biologiche
• Investire in meccanismi di sicurezza tecnica in grado di arginare le minacce dei modelli di fondazione, in particolare misure di protezione potenziate per l’accesso basato sul cloud agli strumenti di IA, capacità di «disapprendimento» e approcci innovativi ai «rischi informativi» nell’addestramento dei modelli.
• Aggiornare gli investimenti governativi per dare maggiore priorità all’agilità e alla flessibilità nei sistemi di difesa biologica.
• A lungo termine, prendere in considerazione un regime di licenze per una ristretta serie di strumenti di progettazione biologica con capacità potenzialmente catastrofiche, qualora tali capacità iniziassero a concretizzarsi.

Introduzione

Nel 2020, il COVID-19 ha messo in ginocchio il mondo, con circa 29 milioni di decessi stimati, gravi sconvolgimenti sociali e politici e vaste ripercussioni economiche.⁠c Tuttavia, l’impatto dell’evento avrebbe potuto essere ben peggiore se il virus fosse stato più letale, più contagioso o entrambe le cose. Da decenni gli esperti avvertono che l’umanità sta entrando in un’era di potenziali pandemie catastrofiche che farebbero apparire il COVID-19 come un evento lieve al confronto. La storia conosce bene casi del genere, non da ultimo l’influenza spagnola del 1918, la peste nera e la peste di Giustiniano — ognuna delle quali avrebbe fatto impallidire il numero di decessi causati dal COVID-19 se rapportato alla popolazione odierna.⁠⁠1

Altrettanto preoccupante è il fatto che molti esperti abbiano lanciato l’allarme riguardo a possibili attacchi biologici deliberati negli anni a venire. Esistono alcuni precedenti: nelle settimane successive all’11 settembre, lettere contenenti spore letali di antrace furono inviate per posta a legislatori statunitensi e testate giornalistiche, e l’attacco avrebbe potuto avere conseguenze ben più gravi se l’autore avesse ideato un meccanismo di dispersione dell’antrace più efficace. L’episodio potrebbe prefigurare un futuro in cui la maggiore disponibilità di capacità biologiche consentirà a individui malintenzionati e piccoli gruppi di devastare governi e società attraverso attacchi biologici strategici. Jeff Alstott, ex direttore per la tecnologia e la sicurezza nazionale presso il Consiglio di Sicurezza Nazionale, ha avvertito nel settembre 2023 che la documentazione classificata conteneva «incidenti sfiorati abbastanza di recente» in cui attori non statali avevano tentato di utilizzare armi biologiche su «scala strategica».⁠d

Valutare con precisione quanto siano credibili questi terribili avvertimenti può sembrare quasi impossibile e richiede un giudizio lucido di fronte a scenari controfattuali opachi, allarmismo, negazionismo e possibilità terrificanti. Ma a prescindere dalla loro probabilità, il potenziale distruttivo delle catastrofi biologiche è innegabilmente enorme: la storia è costellata di esempi di società messe a dura prova e persino collassate sotto il peso delle malattie — dal contagioso flagello che devastò l’antica Atene durante la guerra del Peloponneso, alla peste bubbonica che paralizzò l’Impero Romano d’Oriente nel VI secolo, fino alla catastrofica epidemia di salmonella nell’impero azteco nel XVI secolo.⁠e È essenziale che i leader statunitensi affrontino con lucidità i rischi di catastrofe biologica — che, secondo molti, cambieranno radicalmente nell’era dell’intelligenza artificiale.

I leader del governo e dell’industria hanno espresso gravi preoccupazioni riguardo alla possibilità che l’IA aumenti drasticamente i rischi di eventi catastrofici in generale, e di catastrofi biologiche in particolare.⁠f In un’audizione al Congresso del luglio 2023, Dario Amodei, amministratore delegato del noto laboratorio di IA Anthropic, ha affermato che entro due o tre anni ci sarebbe stato un «rischio sostanziale» che gli strumenti di IA «ampliassero notevolmente la gamma di attori dotati della capacità tecnica di condurre un attacco biologico su larga scala».⁠g Anche l’ex primo ministro del Regno Unito Rishi Sunak ha espresso urgente preoccupazione per il fatto che potrebbe esserci solo una «ristretta finestra» di tempo prima che l’IA consenta un salto di qualità nelle capacità bioterroristiche.⁠h La vicepresidente degli Stati Uniti Kamala Harris ha messo in guardia dalla minaccia di «armi biologiche formulate dall’IA che potrebbero mettere in pericolo la vita di milioni di persone… [e] potrebbero mettere a rischio l’esistenza stessa dell’umanità».⁠i Si tratta di affermazioni gravi. Se vere, rappresentano un aumento significativo dei rischi di bioterrorismo. Ma sono vere?

Il presente rapporto mira a valutare con chiarezza l’impatto dell’IA sui rischi di catastrofi biologiche. Esamina innanzitutto la storia e l’attuale panorama dei rischi nella biosicurezza americana, indipendentemente dalle perturbazioni causate dall’IA. Attingendo a un rapporto correlato, Catalyzing Crisis: A Primer on Artificial Intelligence, Catastrophes, and National Security, questo studio esamina poi come l’intelligenza artificiale stia influenzando i rischi biologici attraverso quattro dimensioni della sicurezza dell’IA: nuove capacità, sfide tecniche, integrazione in sistemi complessi e condizioni di sviluppo dell’intelligenza artificiale.⁠j Partendo da questa analisi, il rapporto individua le aree di sviluppo futuro delle capacità che potrebbero alterare in modo sostanziale i rischi di catastrofi biologiche su larga scala, da monitorare man mano che la tecnologia continua a evolversi. Infine, il rapporto raccomanda misure concrete che i decisori politici possono adottare per affrontare i rischi attuali e a breve termine di catastrofi biologiche.

Sebbene il potenziale teorico dell’IA di aumentare la probabilità e l’impatto delle catastrofi biologiche sia molto elevato, ad oggi gli effetti dell’IA sui rischi biologici sono stati marginali. Non c’è modo di sapere con certezza se o quando si concretizzeranno rischi più gravi, ma un attento monitoraggio di diverse capacità al crocevia tra IA e biotecnologia può fornire indicazioni utili, tra cui l’efficacia delle istruzioni sperimentali fornite dai modelli di fondazione, l’evoluzione delle esigenze relative alle conoscenze tacite con l’aumentare dell’automazione dei laboratori e la ricerca a duplice uso, basata sull’IA, sulla suscettibilità genetica dell’ospite alle malattie infettive e sull’ingegneria di precisione dei patogeni. Per non farsi cogliere alla sprovvista, i decisori politici dovrebbero agire subito per rafforzare le difese biologiche degli Stati Uniti nell’era dell’IA, potenziando i meccanismi di screening per i fornitori di sintesi genica, valutando regolarmente le capacità in materia di armi biologiche dei modelli di fondazione, investendo in una serie di meccanismi di sicurezza tecnica dell’IA e preparandosi a introdurre requisiti di licenza per strumenti sofisticati di progettazione biologica qualora questi inizino a raggiungere capacità potenzialmente catastrofiche.

---

Pubblicazione originale: Bill Drexel & Caleb Withers (2024) AI and the evolution of biological national security risks: capabilities, thresholds, and interventions, Center for a New American Security, 13 di agosto.