Alla ricerca di stabilità nella competizione per il vantaggio offerto dall’IA
In un nuovo e importante rapporto, Superintelligence strategy: Expert vision, Dan Hendrycks, Eric Schmidt e Alexandr Wang propongono una visione audace di come Stati Uniti e Cina potrebbero competere in modo sicuro e protetto mentre sviluppano un’intelligenza artificiale (IA) sempre più avanzata. Gli autori mirano a sintetizzare gli imperativi di sicurezza nazionale, la competitività economica e la governance dell’IA in un quadro coerente per un’azione governativa urgente. Pochi esperti hanno proposto strategie complete per gestire lo sviluppo accelerato dell’IA, pertanto questo saggio offre un contributo fondamentale per far progredire il dibattito sulle politiche per l’IA.
Molte delle raccomandazioni contenute nel documento sono valide e tempestive. La sua proposta più provocatoria è un nuovo concetto per scongiurare che la competizione tra i principali Stati leader nell’IA porti all’instabilità, definito dagli autori «malfunzionamento reciproco assicurato dell’IA» (MRAI), in analogia con la «distruzione reciproca assicurata» (DRA) in ambito nucleare. Secondo il MRAI, sostengono, «qualsiasi tentativo aggressivo da parte di uno Stato per ottenere il dominio unilaterale dell’IA viene contrastato con un sabotaggio preventivo da parte dei suoi rivali». Sebbene sia utile confrontare la rivoluzione nucleare e quella dell’IA alla ricerca di parallelismi e spunti istruttivi, le differenze tra le due tecnologie e i rispettivi ecosistemi comportano profonde implicazioni strategiche. Tenendo conto di ciò, nutriamo preoccupazioni sia per la fattibilità pratica del concetto di MRAI come approccio per superare i rischi di instabilità nella corsa all’IA, sia per i potenziali pericoli di escalation che potrebbero derivare dalle sue prescrizioni fondamentali.
Elementi critici di una strategia sull’IA
Superintelligence strategy: Expert vision prende in esame lo scenario sempre più probabile in cui Stati Uniti e Cina si sfidano in una corsa aggressiva verso le soglie critiche nello sviluppo di un’IA superintelligente: un’IA più capace degli esseri umani in quasi ogni compito cognitivo e, se abbinata (o «incarnata») a una robotica avanzata, anche in molti altri compiti. (Questo livello di IA viene spesso definito «intelligenza artificiale generale» o IAG, ma si tratta di un termine astratto che fuorvia tanto quanto informa). Molti entusiasti dell’IA sostengono (PDF) — e gli autori ne riconoscono la possibilità — che il primo Stato a sviluppare questa tecnologia potrebbe godere di una crescita economica esplosiva e di un potere militare senza precedenti, poiché l’IA si riprogramma e si duplica ricorsivamente alla velocità delle macchine per diventare sempre più potente. Altri Stati potrebbero rimanere molto indietro. Questo scenario comporta rischi reali: se entrambe le parti considerano l’IA superintelligente come la chiave per il dominio economico e tecnologico, nonché come una minaccia potenzialmente esistenziale se finisse nelle mani di un avversario (sia per un intento ostile attivo, sia nel caso in cui un rivale perdesse il controllo della propria IA), è prevedibile che i pericoli di ostilità e aggressione reciproca aumentino man mano che una delle due parti si avvicina al traguardo.
Hendrycks, Schmidt e Wang propongono una strategia in tre parti per affrontare questo scenario. Due di questi pilastri sono molto convincenti. Gli autori propongono una politica di non proliferazione dell’IA: uno sforzo volto a limitare i vari rischi legati alla proliferazione dell’IA attraverso politiche e meccanismi basati sull’hardware che restringano l’accesso ai chip di IA all’avanguardia e ai pesi dei modelli di frontiera da parte di attori non statali. Considerati i danni che potrebbero causare piccoli gruppi dotati di accesso a un’IA superpotente, un programma di questo tipo — per quanto incredibilmente arduo nella pratica (soprattutto con l’ascesa dei modelli di IA a pesi aperti accessibili a chiunque) — rappresenta una priorità di primo piano.
La seconda componente della loro strategia è la competizione gestita, che sostiene e mira a garantire che gli Stati Uniti continuino a guidare il mondo nello sviluppo e nella diffusione dell’IA. Concordiamo, e vorremmo inoltre sottolineare che competere nell’era dell’IA richiede molto più della semplice costruzione dello stack tecnologico: si tratta anche di plasmare una società in grado di implementare efficacemente un’IA superintelligente, gestendone al contempo le implicazioni dirompenti.
Molte delle raccomandazioni dell’articolo legate a queste due linee strategiche d’azione — sicurezza della potenza di calcolo, controlli sulle esportazioni, sicurezza delle informazioni, misure di salvaguardia per l’IA, investimenti nelle basi economiche del vantaggio offerto dall’IA — dovrebbero far parte di qualsiasi lungimirante strategia sull’IA degli Stati Uniti. Il terzo pilastro della strategia proposta — come dissuadere gli Stati dal perseguire incautamente un monopolio nell’IA avanzata — solleva tuttavia seri interrogativi.
Hendrycks, Schmidt e Wang descrivono un ordine internazionale in cui le minacce di paralizzare lo sviluppo dell’IA di un rivale, qualora questi si lanciasse verso un monopolio dell’IAG, possono impedire a chiunque di perseguire tale dominio tecnologico:
«Uno Stato potrebbe tentare di ostacolare un simile progetto di IA con interventi che vanno da operazioni segrete per compromettere l’addestramento fino a danni fisici che disattivino l’infrastruttura dell’IA. Ci stiamo quindi già avvicinando a una dinamica simile alla distruzione reciproca assicurata (DRM) nucleare, in cui nessuna potenza osa tentare la conquista aperta del monopolio strategico, poiché qualsiasi sforzo in tal senso provocherebbe una risposta debilitante. Questa condizione strategica, che definiamo malfunzionamento reciproco assicurato dell’IA (MRAI), rappresenta un regime di deterrenza potenzialmente stabile, ma mantenerlo potrebbe richiedere cautela.»
Come affermano più avanti nel rapporto: «Se uno Stato rivale si lancia verso un monopolio strategico, gli Stati non resteranno a guardare in silenzio… Anziché attendere che un rivale utilizzi una superintelligenza come arma contro di loro, gli Stati agiranno per disattivare i progetti di IA minacciosi».
Si tratta di un’idea che fa riflettere. Riteniamo tuttavia che presenti gravi problemi sotto due aspetti. In primo luogo, non sembra essere un deterrente attuabile nella pratica. In secondo luogo, la capacità di bloccare i tentativi di un avversario di sviluppare un’IA avanzata esacerberebbe, anziché attenuare, l’instabilità di una corsa all’IA, creando potenti incentivi a sferrare un primo attacco.
Prendere di mira una tecnologia opaca, distribuita e di uso generale
Il concetto MRAI si basa su diverse ipotesi ottimistiche che stanno alla base della presunta «relativa facilità di sabotare il programma di IA di un rivale». Molte delle tecniche di «MRAI-azione» proposte sarebbero estremamente difficili da attuare in modo efficace, per una serie di ragioni. Qui ne evidenziamo solo tre.
In primo luogo, il rapporto fa riferimento in modo generico a una serie di azioni che gli Stati potrebbero intraprendere per paralizzare l’architettura di un rivale destinata allo sviluppo di IA avanzata. Queste spaziano da attacchi informatici e da altre forme di sabotaggio meno chiaramente definite, fino ad attacchi cinetici con missili ipersonici contro centri di calcolo e altre strutture a supporto dell’IA. Ciò presuppone che i programmi di IA avversari dispongano di strutture specifiche che possano essere facilmente individuate e messe fuori uso. Tuttavia, il cloud computing distribuito, l’addestramento decentralizzato e lo sviluppo algoritmico potrebbero richiedere sempre meno sedi fisiche centralizzate, rendendo i sistemi di IA più resilienti ad attacchi limitati, oltre a rendere più difficile il monitoraggio dello sviluppo dell’IA avversaria. Inoltre, man mano che le principali potenze dell’IA si avvicinano alla superintelligenza, presumibilmente lavoreranno per rafforzare i propri laboratori di IA, i centri di calcolo e le infrastrutture per la produzione di energia contro le interruzioni informatiche e il sabotaggio fisico, integrando sempre più ridondanza nei propri sistemi. E se una delle due parti dovesse passare da un’interruzione virtuale a un attacco vero e proprio, come ipotizza il concetto di MRAI, un attacco su vasta scala volto a mettere fuori uso i centri di calcolo, la produzione di energia e i laboratori di IA nel territorio nazionale della controparte semplicemente non è un’opzione realistica per le forze armate statunitensi o cinesi di oggi, se non con l’impiego di armi nucleari.
Una seconda sfida pratica risiede nell’aspettativa che ciascuna parte possa valutare con precisione i progressi segreti nell’IA compiuti da altri e stabilire quando sia necessaria un’azione preventiva. Contrariamente a quanto affermato nel rapporto, è improbabile che gli Stati abbiano una chiara percezione di quando sia giunto il momento di applicare il concetto di MRAI al proprio avversario. Il concetto fa riferimento a un punto di innesco costituito dal «tentativo aggressivo di qualsiasi Stato di ottenere il dominio unilaterale nell’IA», ma i termini aggressivo e dominio sono frustrantemente vaghi, e non è chiaro se possano essere definiti con sufficiente precisione da figurare in un documento di pianificazione che raccomanda attacchi preventivi su larga scala sul territorio nazionale di un altro Paese. Sia i recenti sviluppi sia la storia della competizione tra grandi potenze suggeriscono che può essere estremamente difficile conoscere lo stato esatto dello sviluppo tecnologico di un avversario, anche per quanto riguarda tecnologie come lo sviluppo di armi nucleari che comportano infrastrutture distintive, principi scientifici ben compresi e soglie di sviluppo relativamente chiare.
Gran parte della difficoltà risiede in una differenza fondamentale tra la deterrenza nucleare, sia quella della Guerra Fredda sia quella contemporanea, e il concetto di MRAI. La DRA non mirava a scoraggiare lo sviluppo delle armi, ma piuttosto il loro impiego, il che rendeva la soglia di risposta notevolmente più semplice (sebbene potesse comunque risultare problematica in casi quali falsi o ambigui allarmi di attacco). Non esiste un punto di non ritorno altrettanto chiaro ed evidente che giustifichi un attacco MRAI come misura difensiva. Da una prospettiva cinese, per esempio, si potrebbe sostenere in modo convincente — considerando le strategie pubbliche statunitensi sull’IA, le dichiarazioni di alti funzionari, i massicci finanziamenti del settore privato ai laboratori di IA, il CHIPS Act, i controlli sulle esportazioni e il nuovo progetto “Stargate” sostenuto dal governo — che gli Stati Uniti stiano già correndo a tutta velocità verso il monopolio della superintelligenza. Eppure, raramente sentiamo anche gli osservatori più ottimisti dei progressi statunitensi nell’IA prevedere un primo attacco cinese o persino attacchi informatici su larga scala contro i laboratori. Né sentiamo queste ipotesi da parte statunitense, nonostante i crescenti timori per l’accelerazione dei progressi cinesi nell’IA.
Terzo e ultimo punto: anche una minaccia MRAI credibile potrebbe non dissuadere un rivale dal perseguire un’IA superintelligente. Interrompere lo sviluppo della propria IA comporterebbe essenzialmente gli stessi costi del subire un attacco MRAI: la perdita del programma. I regimi di proibizione delle armi che si sono dimostrati ragionevolmente efficaci in passato (come il Trattato di non proliferazione e la Convenzione per le armi biologiche) traggono la loro forza dalla minaccia esplicita o implicita di subire sanzioni economiche, politiche o militari più ampie per le violazioni, non solo dalla distruzione degli investimenti tecnologici vietati.
Uno Stato prossimo alla superintelligenza avrebbe, oltre alla resa, molte opzioni per sventare o scongiurare l’attuazione di una minaccia MRAI. Potrebbe decidere di nascondere la propria ricerca, minacciare risposte proporzionate a eventuali attacchi, mobilitare il sostegno globale e molto altro. Potrebbe anche decidere di accelerare, anziché sospendere, il proprio lavoro sull’IA, partendo dal presupposto che, considerato l’intento chiaramente ostile e repressivo del rivale, l’unica via per la sicurezza vera sia arrivare per primi.
Un’IA superintelligente sarebbe la tecnologia di uso generale più potente della storia dell’umanità. Promette di trasformare le società, le economie e le forze armate. Sembra difficile credere che una grande potenza, spinta dall’ambizione di dominio globale o dal timore di restare vittima del vantaggio tecnologico decisivo altrui, permetterebbe che il proprio sviluppo dell’IA sia ostacolato da una minaccia così limitata.
La problematica mancanza di «DRA-ità» nel MRAI
Oltre a queste preoccupazioni sulla fattibilità del concetto di MRAI, un problema ancora più grave risiede nella sua logica strategica. Malgrado tutte le buone intenzioni, il MRAI rischia di esacerbare proprio alcuni dei problemi di stabilità che si prefigge di risolvere.
Sebbene gli autori descrivano spesso il MRAI come una realtà emergente — in linea con l’aforisma di Robert Jervis secondo cui «la DRA è un fatto, non una politica» — sembrano raccomandare che gli Stati Uniti lo adottino come percorso per uno sviluppo sicuro dell’IA. Tuttavia, sostenere attivamente il MRAI significherebbe dichiarare la disponibilità degli Stati Uniti a entrare in guerra, se necessario, per impedire alla Cina di acquisire una tecnologia di uso generale con profondi benefici sociali e umani. Formulando una simile minaccia, gli Stati Uniti incoraggerebbero la Cina a spingere in clandestinità (sia letteralmente che metaforicamente) i suoi progetti di sviluppo dell’IA più avanzati, riducendo così la potenziale capacità dell’intelligence statunitense di monitorarli. Altri paesi potrebbero non vedere di buon occhio un approccio così palesemente unilaterale e coercitivo, specialmente se la Cina offrisse al mondo l’accesso a versioni open source della propria IA.
Ancora più preoccupante è il fatto che, una volta instaurato uno stato di reciproca vulnerabilità in materia di IA, il rischio di crisi e di guerra potrebbe facilmente aumentare anziché diminuire. Poiché, come sostenuto in precedenza, sarà molto difficile capire quando lo sviluppo di un’IA avanzata da parte di un rivale avrà raggiunto il momento di pericolo critico, un equilibrio in stile MRAI potrebbe rivelarsi altamente instabile, con entrambe le parti che finirebbero costantemente per fraintendere i segnali, ricalibrare le linee rosse per le reazioni e faticare nel tentativo di «stimare a occhio» le soglie corrette. Ciascuna parte scruterebbe lo sviluppo dell’IA dell’altra con un’intensità che rasenta la paranoia, rendendo elevatissimo il rischio di percezioni errate. Misure di forte escalation potrebbero dipendere da interpretazioni tecniche — e algoritmicamente opache — dei progressi dell’IA, oggetto di aspre contestazioni. Il risultato potrebbe essere un equilibrio del terrore sul filo del rasoio per l’IA.
Tale instabilità sarebbe amplificata dal fatto che uno Stato prossimo alla soglia dell’IA ricorsiva potrebbe presumere di poter neutralizzare gli attacchi della controparte, eliminando la reciprocità dal MRAI. Ne conseguirebbe che due (o più) parti si ritroverebbero pronte a passare all’azione, terrorizzate dall’idea di aspettare troppo a lungo prima di agire. Se incaricati di impedire un balzo in avanti verso la superintelligenza da parte di un rivale, gli apparati di sicurezza nazionale avversi al rischio saranno restii ad affidarsi a informazioni di intelligence perfette nel momento critico. Potrebbero benissimo spingere per una pericolosa azione preventiva.
Un attacco selettivo alle infrastrutture avanzate di IA potrebbe anche essere interpretato come l’ondata iniziale di un attacco più ampio alla sicurezza nazionale dello Stato preso di mira. È probabile che le infrastrutture di IA siano profondamente intrecciate con il potere economico e militare, quindi un attacco ai centri di calcolo per l’IA (per non parlare delle reti elettriche) potrebbe essere percepito come un chiaro atto di guerra, innescando una rapida escalation. Distinguere un attacco missilistico (o di altro tipo) in arrivo sui propri centri di calcolo da un attacco più generale sarebbe difficile, se non impossibile.
Parte del problema della logica strategica del MRAI è che non riflette il modo in cui funzionava la deterrenza nucleare durante la Guerra Fredda. L’articolo presenta il MRAI come analogo alla DRA, in cui «qualsiasi tentativo aggressivo da parte di uno Stato di ottenere il dominio unilaterale sull’IA viene contrastato con un sabotaggio preventivo da parte dei rivali». Ma non è così che funzionava la DRA. La DRA era (ed è) qualcosa di quasi opposto: nessuna delle due parti era in grado di eseguire un sabotaggio o un attacco preventivo efficace e totale. Era proprio questo il punto: nessuno poteva colpire per primo ed evitare una risposta devastante — uno stato di cose che decenni di sforzi per il controllo degli armamenti, alla fine, hanno cercato di rafforzare.
Neppure la DRA fu un rapporto stabile e consolidato una volta emersa. Gli Stati Uniti e l’URSS abbracciarono la distruzione assicurata, ma non la sua componente «reciproca»: spesso cercarono di sfuggire ai vincoli della DRA con sistemi nucleari in grado di sferrare un primo attacco e dottrine di guerra nucleare e «limitazione dei danni», e temevano costantemente che la controparte potesse riuscirci. La natura della tecnologia e il suo enorme potere distruttivo impedirono loro di superare la DRA, ma non per mancanza di tentativi. Ci sono tutte le ragioni per ritenere che un «equilibrio del terrore dell’IA» genererebbe rapidamente un’intera serie di misure volte a riconquistare il vantaggio.
Vale inoltre la pena notare che il mondo di MRAI descritto da Hendrycks, Schmidt e Wang è del tutto incoerente con l’attuale realtà dello sviluppo dell’IA guidato dal settore privato. In un mondo in cui il progresso dell’IA rappresenta una minaccia esistenziale per il territorio nazionale, gli Stati riterrebbero sicuramente insostenibile consentire agli attori del settore privato di intraprendere azioni in grado di provocare una guerra. A quel punto, il controllo governativo sulla ricerca e sullo sviluppo dell’IA sembrerebbe l’unica risposta concepibile.
Conclusione
Superintelligence strategy: Expert vision offre un importante promemoria della necessità di stabilire una strategia sull’IA più coerente e che coinvolga l’intero governo. Inoltre, svolge un’utile funzione catalizzatrice, sollevando una serie di interessanti questioni da approfondire.
C’è ancora molto da comprendere, e un programma completo per promuovere la stabilità nel percorso verso la superintelligenza richiede studi molto più approfonditi se, per citare Isaac Asimov, vogliamo garantire che la scienza non accumuli conoscenze più rapidamente di quanto noi, collettivamente, acquisiamo saggezza. Già ora, tuttavia, riteniamo sia possibile individuare diverse misure importanti che potrebbero rivelarsi utili, senza dover ricorrere a minacce deterrenti di attacco alle infrastrutture di IA.
Ad esempio, gli Stati Uniti potrebbero proporre un dialogo multilaterale sulla questione della stabilità geopolitica nel percorso verso l’IA, con l’obiettivo di individuare chiari fattori di rischio e promuovere impegni condivisi di moderazione. Potrebbero suggerire un dialogo a livello militare sulle tecnologie militari destabilizzanti derivanti dalla superintelligenza e sulle misure atte a ridurne gli effetti. In linea con le raccomandazioni di Hendrycks, Schmidt e Wang, gli Stati Uniti potrebbero proporre una collaborazione tra i leader dell’IA (che includerebbe necessariamente l’industria privata) sul controllo della proliferazione nell’interesse comune. Infine, aspetto ancora più importante, gli Stati Uniti potrebbero annunciare l’intenzione di rinunciare ad alcune specifiche applicazioni di un’IA sempre più avanzata — come l’interferenza nei sistemi di comando e controllo nucleare altrui — per offrire alcune rassicurazioni sul potenziale impatto della superintelligenza, sebbene sarebbe ingenuo aspettarsi che la Cina possa sentirsi del tutto rassicurata in merito alle intenzioni statunitensi nel breve termine.
Un aspetto che Superintelligence strategy: Expert vision rende del tutto evidente è la necessità di un concetto strategico per gestire la stabilità tra le grandi potenze nel percorso verso un’IA dalla potenza trasformativa. La minaccia che alcuni Stati intraprendano azioni preventive contro lo sviluppo dell’IA dei propri rivali è motivo di seria preoccupazione. Tuttavia, restano fondati dubbi sul fatto che una dottrina di deterrenza incentrata sull’azione preventiva possa accrescere anziché ridurre l’instabilità, sulla fattibilità pratica di tale concetto e sulla tenuta delle analogie con le strategie dell’era della Guerra Fredda come la DRA. Il MRAI potrebbe quindi non essere la risposta giusta, ma gli Stati Uniti e la Cina dovranno dimostrare al più presto una simile disponibilità a esplorare idee nuove e audaci per gestire questa pericolosa transizione.