L’intelligenza artificiale sta riaccendendo timori sul bioterrorismo. Qual è il rischio reale?
I chatbot potrebbero aiutare attori malintenzionati a procurarsi — o a creare — nuovi agenti patogeni a fini distruttivi
La proliferazione globale dei modelli linguistici di grandi dimensioni (MLGD) sta aggravando numerose preoccupazioni in materia di sicurezza. Tra queste vi è il modo in cui l’intelligenza artificiale (IA) potrebbe consentire agli estremisti di commettere atti di bioterrorismo per promuovere le proprie cause ideologiche. I chatbot si sono già dimostrati in grado di fornire consigli agli utenti su come pianificare attacchi utilizzando nuove e letali forme di batteri, virus e tossine. Nel frattempo, la competizione tra le grandi potenze sta distogliendo l’attenzione dalle minacce rappresentate dai gruppi terroristici e dagli attori non statali malintenzionati.
All’inizio del 2023, uno scienziato ed ex ispettore per gli armamenti delle Nazioni Unite, Rocco Casagrande, ha portato un piccolo contenitore alla Casa Bianca per un briefing con funzionari del governo statunitense. Conteneva una dozzina di ingredienti chimici facilmente reperibili che Claude, il chatbot di punta di Anthropic, aveva raccomandato come precursori per scatenare un’altra pandemia. La dimostrazione di Casagrande ha confermato che chiunque disponga di una connessione a Internet può ora, in teoria, creare la propria arma di distruzione di massa.
«È chiaro che la tecnologia biologica, ora potenziata dall’intelligenza artificiale, ha reso più semplice che mai produrre malattie», scrivono l’accademico Roger Brent, il ricercatore senior della RAND Corporation T. Greg McKelvey Jr. e il presidente della RAND Jason Matheny. «Alcuni individui e gruppi devono affrontare degli ostacoli — ad esempio, l’impossibilità di accedere ai laboratori o alle strutture adeguate. Ma grazie ai continui progressi tecnologici, tali ostacoli stanno crollando.»
Questa non è una novità per la Silicon Valley. Il Secure AI Framework di Google identifica gli attacchi biologici resi possibili dall’IA come una fonte di preoccupazione. Al contrario, un team riunito da OpenAI ha esaminato la questione lo scorso anno, scoprendo che GPT-4 offriva agli utenti solo un vantaggio marginale rispetto alle normali ricerche su Internet nella creazione di armi biologiche.
Nonostante tale conclusione, il rischio di bioterrorismo non è statico. Il International AI Safety Report 2025, realizzato per il Vertice sull’IA di Parigi del 2025, mostra che gli MLGD stanno migliorando notevolmente nelle attività relative alle armi biologiche e chimiche, rispondendo con precisione alle richieste riguardanti l’acquisizione e la formulazione di agenti letali. Le valutazioni degli autori del rapporto suggeriscono che le istruzioni fornite da alcuni modelli per il rilascio di sostanze letali abbiano registrato un miglioramento dell’80 per cento nel solo 2024.
Gli attori non statali — tra cui lupi solitari, terroristi e gruppi apocalittici — hanno all’attivo un’inquietante serie di tentativi di attacchi biologici, ma con successo limitato.
Colmare le lacune lasciate dalla Casa Bianca
Si ritiene che Cina, Iran, Corea del Nord e Russia possiedano alcune capacità per creare armi biologiche. Tuttavia, «la scarsa maneggevolezza e l’imprecisione delle armi biologiche fanno sì che sia improbabile che gli Stati sferrino attacchi biologici su larga scala nel breve termine», si legge in un rapporto pubblicato nell’agosto 2024 dal Center for a New American Security (CNAS). Per contro, «gli attori non statali — tra cui lupi solitari, terroristi e gruppi apocalittici — hanno all’attivo un’inquietante serie di tentativi di attacchi biologici, ma con successo limitato a causa della complessità intrinseca nella realizzazione e nell’impiego di capacità così sofisticate». Ma questo falso senso di sicurezza sta cambiando, avvertono i ricercatori del CNAS. Soprattutto grazie ai progressi nella scienza genetica, nella biologia sintetica e all’emergere dei laboratori cloud — strutture discrete e automatizzate, incaricate di condurre esperimenti a distanza per conto di un cliente.
Allo stesso tempo, la Casa Bianca di Trump ha smantellato l’Istituto americano per la sicurezza dell’IA. Istituito sul finire dell’amministrazione Biden, l’istituto aveva il compito di identificare, misurare e mitigare i rischi dei sistemi di IA avanzati. La Rete internazionale degli istituti per la sicurezza dell’IA sta portando avanti un lavoro simile, anche se ora avrà un’influenza molto minore sulle aziende tecnologiche americane.
Anche l’FBI e la CIA hanno subito enormi perdite di competenze a causa delle diffuse intimidazioni e dei licenziamenti dei dipendenti pubblici da parte del cosiddetto Dipartimento per l’Efficienza del Governo. Entrambe le agenzie sono fonti cruciali di intelligence antiterrorismo a livello globale.
Cosa ancora più importante, tra gli alleati degli Stati Uniti si sta diffondendo un effetto dissuasivo quando si tratta di condividere informazioni riservate con Washington. I funzionari di questi paesi — secondo quanto riferito, le nazioni del gruppo Five Eyes (Australia, Canada, Nuova Zelanda e Regno Unito), oltre a Israele e Arabia Saudita — sospettano che la Casa Bianca possa trasmettere informazioni di intelligence a Mosca nel tentativo di ricucire i rapporti tra Stati Uniti e Russia. Tuttavia, in un contesto geopolitico ostile, vale anche il contrario. Nel marzo 2024 lo Stato Islamico ha massacrato gli spettatori in una sala da concerto alla periferia di Mosca, uccidendo 139 persone e ferendone centinaia. Distratto dalla guerra in Ucraina e sprezzante verso le agenzie di intelligence straniere che mettevano in guardia da un complotto terroristico contro la Russia, il Cremlino è stato colto alla sprovvista.
Il rischio dei bioterroristi fuorilegge
I gruppi terroristici transnazionali e gli attori non statali violenti stanno riprendendo vigore nei vuoti di potere creati dal ritiro degli Stati Uniti dal multilateralismo. Stanno sfruttando abilmente tecnologie sofisticate come le criptovalute, gli attacchi informatici e i ransomware. App di messaggistica crittografata come WhatsApp e Telegram vengono utilizzate per reclutare nuovi membri, acquistare e vendere armi, raccogliere fondi e organizzarsi lontano dai riflettori. Questa tendenza va oltre i ribelli islamisti e i suprematisti razziali per includere gruppi apocalittici come gli ormai defunti Zizians — un collettivo della Baia di San Francisco descritto come “il primo culto della morte influenzato dall’IA al mondo” che mirava a sostituire l’umanità con una superintelligenza informatica.
«La vera minaccia esistenziale che ci attende non proviene dalla Cina», hanno scritto due tecnologi nel gennaio 2025 sulla MIT Technology Review, lamentando i discorsi sulle democrazie liberali impegnate in una battaglia con Pechino per la supremazia nell’IA. Piuttosto, affermano, essa proviene «dalla strumentalizzazione dell’IA avanzata da parte di attori malintenzionati e gruppi fuorilegge che cercano di causare danni su vasta scala, arricchirsi o destabilizzare la società».
La fragilità dei sistemi di IA stessi pone ulteriori sfide. Tutti i principali chatbot di IA si sono dimostrati vulnerabili ai jailbreak — metodi creativi degli utenti per aggirare i protocolli di sicurezza dei sistemi. Questo pericolo è amplificato in modo esponenziale dall’ascesa di agenti di IA, che ora possono eseguire compiti autonomamente su Internet. E sebbene i modelli open source a basso costo possano favorire una maggiore parità di condizioni nell’adozione dell’IA per la produttività e l’innovazione, essi presentano a loro volta evidenti difetti e devono anch’essi essere regolamentati di conseguenza.
Tuttavia, la legislazione prodotta dagli enti con autorità giurisdizionale sulla Silicon Valley è soggetta alle feroci pressioni delle lobby. L’innovativo progetto di legge SB 1047 della California, ad esempio, è stato bloccato lo scorso anno dal veto del governatore Gavin Newsom, in seguito a una martellante campagna di pubbliche relazioni dell’industria tecnologica. Fatto ancor più preoccupante, i legislatori repubblicani hanno recentemente inserito una clausola nascosta nel loro disegno di legge fiscale all’esame del Congresso, che vieterebbe agli Stati e alle amministrazioni locali di regolamentare l’IA per il prossimo decennio.
Per un’oscura ironia della sorte, se dovesse mai verificarsi un attacco bioterroristico supportato dalla tecnologia, l’IA si rivelerebbe fondamentale anche per accelerare la ricerca di una cura. Speriamo di non arrivare mai a quel punto: il COVID-19 ha già dimostrato come un nuovo virus possa seminare il caos in un mondo iperconnesso. È molto probabile che la prossima pandemia sia di gran lunga peggiore.