Preparativi per il lancio
Un’introduzione a La Sequenza di Lancio: perché è importante orientare il progresso dell’IA e come farlo
Questo saggio è la prefazione a La Sequenza di Lancio, una raccolta di idee concrete e ambiziose per preparare il mondo all’intelligenza artificiale avanzata. Questi progetti hanno bisogno di persone che li realizzino. Contattaci.
Se allarghiamo lo sguardo al di là del dibattito sulle capacità specifiche di ciascun nuovo modello di IA, la traiettoria storica del progresso dell’IA è chiara: le capacità dell’IA convergono verso qualcosa di trasformativo. Anche se gli agenti odierni faticano ancora con lunghe catene di azioni, le loro prestazioni rispetto agli standard umani in materia di programmazione, matematica, uso di strumenti e analisi scientifica stanno aumentando a un ritmo esponenziale. Se un numero crescente di settori continuerà a seguire queste tendenze, nel prossimo decennio l’IA rimodellerà l’economia, la scienza e le fondamenta del potere nazionale.
Ma le traiettorie tecnologiche non sono un destino ineluttabile. L’IA non risolve automaticamente per primi i problemi più importanti, né neutralizza di default i nuovi rischi che essa stessa crea. Molte proposte volte a «massimizzare i benefici dell’IA» e al contempo a «ridurne al minimo i rischi» sono mal indirizzate o gravemente carenti in termini di ambizione. In questo saggio, esponiamo le ragioni fondamentali per cui gli Stati Uniti dovrebbero orientare in modo proattivo il progresso dell’IA, accelerando lo sviluppo sia di tecnologie benefiche che difensive:
- Il progresso dell’IA dipende dal percorso: la sequenza del progresso dell’IA è importante — dove e in quale ordine vengono sviluppate le nuove capacità può essere altrettanto importante di quali nuove capacità vengono sviluppate.
- Data la loro posizione nella catena di approvvigionamento dell’IA e in quanto democrazia più potente del mondo, gli Stati Uniti hanno la responsabilità di orientare lo sviluppo dell’IA verso un percorso che favorisca — anziché soffocare — la prosperità umana.
Questo orientamento proattivo non è senza precedenti. Dalla fissione nucleare ai voli spaziali, fino all’mRNA, gli Stati Uniti hanno ripetutamente cambiato la traiettoria delle tecnologie emergenti. Nell’era dell’IA, sosteniamo quattro principi guida:
- Dovremmo trarre vantaggio dalla «frontiera frastagliata» delle capacità dell’IA
- Non dovremmo trascurare i costi di uno stallo nel progresso
- Dovremmo riprogettare il funzionamento di molte delle nostre istituzioni scientifiche
- Dovremmo adattarci alla profonda incertezza, lavorando al contempo per ridurla
Questi principi sono alla base di La Sequenza di Lancio: una raccolta di progetti concreti e ambiziosi per accelerare la scienza e rafforzare la sicurezza con tempistiche rilevanti.
Perché orientare il progresso dell’IA?
Le aziende americane stanno scommettendo pesantemente sull’IA. Circa due anni fa, la spesa edilizia legata ai chip per computer ha superato tutto il resto della spesa edilizia manifatturiera. E la spesa per la costruzione di centri di calcolo per addestrare e implementare modelli di IA supererà probabilmente a breve quella per gli uffici destinati ai lavoratori umani.
Questi investimenti potrebbero contribuire a risolvere alcuni dei problemi più urgenti dell’umanità, dalla ricerca di cure per malattie invalidanti attraverso l’accelerazione della scoperta di farmaci alla realizzazione di una nuova rivoluzione scientifica grazie alla scoperta di nuovi materiali e strumenti.1 Più in generale, l’intelligenza artificiale del futuro potrebbe catalizzare una nuova età dell’oro di crescita e abbondanza. Ma il progresso tecnologico non è una forza mistica che offre per prime le soluzioni ai problemi più importanti. Per cogliere appieno i benefici del progresso dell’IA, dobbiamo risolvere due grandi problemi.
1. I benefici del progresso dell’IA potrebbero non arrivare abbastanza rapidamente
Molti benefici del progresso dell’IA potrebbero non arrivare rapidamente (o affatto) di default, dati gli attuali incentivi commerciali. Ciò potrebbe accadere perché una particolare applicazione creerebbe beni pubblici, che i mercati tendono a fornire in quantità insufficiente, oppure perché una direzione di ricerca è ad alto rischio e richiede ingenti investimenti iniziali. Ad esempio, i mercati da soli potrebbero non dare priorità a un’IA che automatizzi la replicazione di studi scientifici,2 né esplorare nuovi trattamenti medici non brevettabili, né condurre ricerca di base nelle neuroscienze senza applicazioni commerciali immediate.3
Nonostante una recente ondata di nuovi progetti pubblici,4 privati5 e non profit incentrati sull’IA per la scienza,6 non siamo ancora vicini a sfruttare appieno le nuove capacità dell’IA per accelerare le soluzioni ai problemi più importanti del mondo. Inoltre, troppo poco impegno è rivolto a risolvere le numerose barriere strutturali che impediscono di realizzare i benefici della scoperta scientifica abilitata dall’IA. L’implementazione di nuove tecnologie per l’energia pulita dovrà probabilmente affrontare una serie quasi infinita di veti da parte dei gruppi per la conservazione ambientale. I nuovi farmaci rischiano di rimanere bloccati per anni nel processo, inutilmente oneroso, di approvazione della FDA. A causa di una combinazione di incentivi inadeguati e di computer governativi antiquati, molti dataset scientifici utili non sono accessibili per l’addestramento dell’IA.7 E la ricerca pubblica è ostacolata da un modello di finanziamento fallimentare, in cui i responsabili della ricerca dedicano quasi la metà del loro tempo alle pratiche burocratiche relative ai finanziamenti.
2. I progressi dell’IA potrebbero comportare rischi che l’industria è poco incentivata a risolvere
Agenti di programmazione avanzati utilizzati in tutta l’economia per aumentare notevolmente la produttività potrebbero anche essere impiegati, giorno e notte, per individuare e sfruttare le vulnerabilità di sicurezza nelle infrastrutture critiche. I sistemi di IA in grado di accelerare ampiamente il ritmo della ricerca medica potrebbero anche contribuire a progettare armi biologiche. I principali laboratori di IA hanno alcuni incentivi a prevenire l’uso improprio dei propri modelli, ma l’equilibrio tra attacco e difesa delle capacità emergenti dell’IA in ambiti come quello informatico e biologico è incerto. Non esiste una legge ferrea dell’informatica o dell’economia che stabilisca che le capacità difensive debbano crescere di pari passo con quelle offensive. Nel peggiore dei casi, gli incentivi privati a investire adeguatamente per prevenire l’uso improprio potrebbero essere eclissati dall’entità dei rischi che le nuove tecnologie di IA pongono al pubblico.
Le proposte della comunità per la sicurezza dell’IA spesso attirano critiche perché si concentrano su soluzioni basate su un controllo fragile e imposto dall’alto, come un regime di licenze per tutti i modelli al di sopra di una certa soglia di potenza di calcolo per l’addestramento. Ma, nonostante la validità di queste critiche, il problema rimane: l’uso improprio e il disallineamento dell’IA potrebbero benissimo causare danni reali nel futuro prossimo, e la ricerca tecnica volta a risolvere questi problemi resta un campo di nicchia — circa il 2% degli articoli pubblicati sull’IA, con all’incirca 100 milioni di dollari all’anno di finanziamenti.8 Inoltre, complice in parte un istinto verso la non proliferazione, i ricercatori sulla sicurezza dell’IA hanno dedicato un’attenzione insufficiente alle soluzioni che partono dal presupposto che le capacità pericolose dell’IA si diffonderanno rapidamente.9 Di fronte a un’IA potente, ampiamente disponibile e con costi di utilizzo quasi nulli, troppo pochi progetti impiegano l’IA per creare tecnologie che avvantaggino asimmetricamente la difesa rispetto all’attacco.
Abbiamo bisogno di politiche proattive e di investimenti pubblici che affrontino questi problemi. Frasi come «massimizzare i benefici dell’IA, minimizzarne i rischi» sono ormai diventate un cliché, ma le proposte e i progetti mirati all’uno o all’altro obiettivo sono spesso mal indirizzati o gravemente carenti di ambizione.
All’IFP, stiamo applicando idee tratte dallo studio del progresso, dall’accelerazionismo difensivo e dallo sviluppo tecnologico differenziale per contribuire a garantire realmente che i benefici dell’IA possano essere sfruttati e i suoi rischi efficacemente mitigati. Stiamo cercando di comprendere la giusta sequenza di tecnologie che gli Stati Uniti devono sviluppare per realizzare il prima possibile la promessa di un’età dell’oro abilitata dall’IA e per garantire che le tecnologie difensive siano pronte in tempo per affrontare la transizione in sicurezza. Stiamo esaminando gli incentivi, le strategie di sviluppo del settore, i meccanismi di finanziamento e le (de)regolamentazioni in grado di espandere rapidamente un ecosistema di ricerca e sviluppo per risolvere queste sfide. Il successo in questo ambito richiede innanzitutto che gli Stati Uniti si assumano la responsabilità di plasmare il futuro dell’IA.
Mobilitare il laboratorio di ricerca e sviluppo del mondo
Come abbiamo affermato nel saggio fondativo dell’IFP, lo sviluppo e l’implementazione delle tecnologie mostrano una forte dipendenza dal percorso. Dove e in quale ordine vengono sviluppate le tecnologie può essere tanto importante quanto quali tecnologie vengono sviluppate. È probabile che l’intelligenza artificiale sia particolarmente dipendente dal percorso:
- I modelli più potenti di oggi sono di uso generale. Lo spazio delle possibili applicazioni, sia positive che negative, è ampio.
- Molte capacità offensive dell’IA hanno anche un lato difensivo. L’IA potrebbe aiutare a progettare nuovi virus letali, ma può anche rendere possibili sistemi di monitoraggio migliori per gli agenti patogeni pandemici. L’IA potrebbe violare sistemi informatici sensibili, ma può anche aiutare a scoprire e correggere le vulnerabilità in modo proattivo. Sviluppare per prima la capacità offensiva oppure quella difensiva potrebbe incidere fortemente sull’eventualità e sulle modalità con cui si concretizzeranno i nuovi rischi legati all’IA.
- Il progresso dell’IA è sensibile alle condizioni iniziali. Le applicazioni che dispongono di grandi quantità di dati di addestramento (ad es. la progettazione di proteine) e/o che non presentano grossi colli di bottiglia nel mondo reale (ad es. lo sviluppo di algoritmi) registreranno rapidi miglioramenti nelle capacità. Ciò significa che interventi mirati a modificare queste condizioni iniziali potrebbero invertire l’ordine di sviluppo delle capacità offensive rispetto a quelle difensive.
Data questa dipendenza dal percorso, gli Stati Uniti hanno la responsabilità di orientare lo sviluppo dell’IA verso una direzione che favorisca — anziché soffocare — la prosperità umana. Per avere un’idea di un possibile percorso futuro, basta guardare alla Cina, dove il PCC ha progressivamente implementato un sistema di sorveglianza di massa abilitato dall’IA per monitorare i propri cittadini sia in patria che all’estero.
Gli Stati Uniti hanno anche il potere di orientare lo sviluppo dell’IA. Sono la democrazia più potente al mondo e, insieme ai nostri alleati, deteniamo un vantaggio in gran parte della catena di approvvigionamento dell’IA. Lo scorso anno, gli investimenti del settore privato statunitense nell’IA sono stati oltre dieci volte superiori a quelli di qualsiasi altro paese.
Se gli Stati Uniti vacillassero o cedessero il primato, non ci sarebbe nessun’altra democrazia forte pronta a raccogliere il testimone. Al di fuori degli Stati Uniti e della Cina, esiste solo una manciata di aziende ed ecosistemi degni di nota nel campo dell’IA. Non c’è un piano B realistico. L’Unione Europea può tentare di continuare a regolamentare le aziende al di fuori dei propri confini, ma solo gli Stati Uniti e la Cina sono realisticamente in grado di costruire le infrastrutture tecnologiche del XXI secolo.
Grazie al nostro dominio sulla catena di approvvigionamento, gli Stati Uniti hanno la potente capacità di negare ad altri l’accesso all’IA avanzata attraverso i controlli sulle esportazioni, il che consente loro di rimanere il principale decisore sul futuro di questa tecnologia. Riteniamo che i controlli sulle esportazioni siano uno strumento cruciale per rallentare la capacità del PCC di imporre la propria visione sullo sviluppo dell’IA avanzata. Tuttavia, per quanto siano un ottimo strumento, non possono mantenere il nostro vantaggio per sempre. Sarebbe un pessimo utilizzo dello sforzo politico se non sfruttassimo il vantaggio offerto dai controlli sulle esportazioni per indirizzare il futuro in una direzione migliore. Gli Stati Uniti sono il laboratorio di ricerca e sviluppo del mondo, e dovremmo comportarci di conseguenza.
In che modo dovremmo pensare a plasmare il progresso dell’IA?
Il modo in cui concepiamo le tecnologie emergenti del nostro tempo dipende spesso dal modo in cui percepiamo il momento che stiamo vivendo. All’alba della rivoluzione scientifica, l’opera di Francis Bacon New Atlantis delineò una visione fondamentalmente ottimistica della ricerca scientifica, organizzata e orientata al bene dell’umanità, portando alla fondazione della Royal Society a Londra, che a sua volta ispirò un’ondata di nuove accademie scientifiche in tutta Europa. Nel 1955, John von Neumann scrisse un saggio intitolato Can we survive technology? contenente una visione più pessimistica dello sviluppo tecnologico in un mondo da poco caratterizzato da arsenali nucleari in grado di provocare la fine del mondo, suggerendo che l’unica vera strategia fosse semplicemente quella di tirare avanti alla meno peggio.10 Nel 2019, mentre gli strumenti di biologia sintetica come CRISPR diventavano sempre più accessibili e le tendenze relative all’aumento di scala della potenza di calcolo dell’IA diventavano più chiare, l’articolo di Nick Bostrom The vulnerable world hypothesis, suggeriva che l’unico modo per affrontare tecnologie distruttive ampiamente disponibili potesse essere «una sorveglianza onnipresente o un ordine mondiale unipolare». Il saggio di Vitalik Buterin del 2023, My techno-optimism, può essere considerato una sintesi di molte di queste idee: le nuove tecnologie della nostra epoca potrebbero portare al disastro, ma lo stesso vale per la nostra risposta a queste minacce, qualora dovesse portare alla perdita dei valori democratici o alla concentrazione del potere. La soluzione di Buterin è un programma di ricerca e sviluppo di ampio respiro incentrato sulle tecnologie difensive per mitigare e contrastare i rischi emergenti, evitando al contempo un controllo centralizzato.
Prendiamo in prestito l’ottimismo di Bacon, ma condividiamo la logica di fondo di pensatori come Buterin: anziché considerare inevitabile la traiettoria di una tecnologia, dovremmo pensare in modo ampio a come muoverci per plasmarla. Non si tratta di illusioni ingenue. Negli ultimi decenni, gli Stati Uniti hanno adottato con successo diversi approcci per orientare lo sviluppo delle nuove tecnologie:
- Non proliferazione: Nel caso delle armi nucleari, abbiamo deciso che l’unico modo per gestire la tecnologia in sicurezza fosse quello di tenerla sotto stretto controllo. Le prove sulla potenza distruttiva senza precedenti di questa tecnologia portarono il presidente Roosevelt a secretare tutte le ricerche sulla fissione nel 1942, il che a sua volta portò alla centralizzazione della ricerca e sviluppo attraverso il Progetto Manhattan e alla successiva strategia americana di non proliferazione. Sebbene questa strategia non sia stata perfetta, la proliferazione nucleare è stata costantemente più lenta di quanto previsto dalla maggior parte degli esperti.11
- Accelerazione selettiva: Negli anni ‘80, riconoscendo gli svantaggi derivanti dalla brevettazione delle sequenze genetiche da parte delle aziende private, abbiamo deciso di accelerare in modo proattivo lo sviluppo di strumenti e infrastrutture universali per il sequenziamento genico attraverso il Progetto Genoma Umano. Questo ha creato una vasta risorsa di dominio pubblico che ha contribuito a impedire la concessione di brevetti di ampia portata sulle sequenze genomiche grezze.12
- Accelerazione difensiva: Di fronte al COVID, l’amministrazione Trump si rese conto che per superare la pandemia era necessario accelerare massicciamente lo sviluppo di una nuova tecnologia difensiva: la piattaforma dei vaccini a mRNA. L’Operazione Warp Speed ha combinato meccanismi di orientamento del mercato, una strategia estesa all’intero governo e la semplificazione delle normative per accelerare radicalmente lo sviluppo del primo vaccino a mRNA pienamente approvato. Il vaccino è stato sviluppato in soli 9 mesi, a una velocità oltre 10 volte superiore alla norma, e molto più rapidamente di qualsiasi altro vaccino mai sviluppato.
Naturalmente, l’IA di uso generale è una tecnologia diversa rispetto a ciascuna di queste, sia per la più ampia varietà di applicazioni, sia per il modo in cui essa stessa può essere sfruttata per accelerare in modo differenziato lo sviluppo di altre tecnologie. Ciò significa che il modo corretto per plasmarla consiste probabilmente in un complesso mix di strategie, sia collaudate che innovative.
Quattro principi per plasmare il progresso dell’IA
1. Dovremmo sfruttare la «frontiera frastagliata» del progresso dell’IA
Le capacità dell’IA non avanzano allo stesso ritmo in tutti i campi: questo crea una «frontiera frastagliata». All’inizio dello scorso anno, solo il 5% delle aziende statunitensi utilizzava l’IA, secondo i dati dello US Census Bureau. Ma nel corso dello stesso anno, un modello di IA ha portato a un Premio Nobel per la chimica, e Google ha annunciato che oltre un quarto del codice accettato nelle proprie codebase di produzione era stato generato dall’IA. Almeno nella programmazione, questa tendenza sta chiaramente accelerando: l’80% di Claude Code (uno strumento per scrivere codice basato su agenti sviluppato da Anthropic) è stato scritto dallo stesso Claude. Il futuro è già qui — semplicemente non è distribuito in modo uniforme.
Coloro che intendono utilizzare l’IA per far progredire la ricerca sui problemi scientifici più importanti al mondo, o per sviluppare tecnologie volte ad affrontare i nuovi rischi introdotti dall’IA, dovrebbero trarre vantaggio da questa frontiera frastagliata. Se vaste quantità di conoscenze all’interno di un campo possono essere facilmente tokenizzate per l’elaborazione da parte dell’IA, se le soluzioni ai problemi in tale ambito possono essere rapidamente verificate e se nuove capacità possono essere rapidamente implementate, allora il lavoro in quel campo può essere notevolmente accelerato grazie all’IA. Ciò è già evidente in alcune aree della matematica, della chimica e della biologia, così come in gran parte della programmazione. Lo è meno in campi come la fisica delle particelle, che è limitata dal processo lento e costoso di raccolta dei dati tramite gli esperimenti negli acceleratori di particelle. Quali lezioni dovremmo trarre da ciò?
Le tattiche per orientare il progresso dell’IA dovrebbero basarsi sulle previsioni relative ai settori in cui l’IA avrà successo per prima. La facilità di tokenizzazione, la verifica delle soluzioni e l’implementazione in diversi ambiti sono buoni indicatori di dove vedremo per prime nuove capacità benefiche e destabilizzanti. Questo aiuta a valutare il probabile equilibrio tra attacco e difesa, che, a sua volta, contribuirà a determinare la strategia migliore per orientare il progresso. Ad esempio:
- Nella sicurezza informatica, le stesse capacità dell’IA che permettono attacchi automatizzati potrebbero anche essere rapidamente implementate per consentire una difesa automatizzata.13 In ambiti come questo, una strategia basata sull’accelerazione delle applicazioni difensive e dell’infrastruttura di sicurezza potrebbe essere sufficiente.14 15
- Alcuni aspetti della biosicurezza, d’altra parte, sembrano dominati dall’offensiva. Molti temono che un gruppo terroristico possa avvalersi di strumenti di progettazione biologica basati sull’IA per progettare e diffondere un virus letale e ultra-trasmissibile. In questo caso, ha ancora senso accelerare lo sviluppo delle tecnologie difensive pertinenti, come la luce far-UVC e le piattaforme vaccinali flessibili. Tuttavia, l’implementazione di queste tecnologie rischia di essere lenta rispetto alla velocità con cui si diffondono le peggiori pandemie. Questo significa che probabilmente dovremo perseguire anche una strategia di non proliferazione per alcune applicazioni di biosicurezza. Un approccio promettente, come richiesto dal recente Piano d’azione sull’IA della Casa Bianca, consiste nel concentrarsi sui fornitori di sintesi di acidi nucleici per garantire che mettano in atto uno screening delle sequenze e una verifica dei clienti.
Monitorare da vicino la frontiera delle capacità dell’IA in diversi ambiti potrebbe fornirci il preavviso necessario per costruire in modo proattivo nuove difese. Le prove fornite dai progressi su benchmark ben progettati, e dalle nuove capacità osservate nelle implementazioni interne di nuovi modelli presso laboratori di IA di frontiera, possono fornirci un «margine di adattamento» — un periodo di tempo che possiamo utilizzare per sviluppare gli strumenti, le infrastrutture e le politiche necessarie a massimizzare le probabilità che la diffusione su larga scala della nuova capacità abbia esito positivo. Questo richiederà la creazione dei giusti sistemi di allerta precoce per stimolare l’azione del settore pubblico e privato. Le prove relative a nuove capacità bio-offensive osservate nelle prime versioni dei nuovi modelli, ad esempio, potrebbero contribuire a innescare un rafforzamento delle scorte di dispositivi di protezione individuale per una distribuzione rapida, nonché il lancio della sorveglianza delle acque reflue per individuare tempestivamente nuovi agenti patogeni.16
Monitorare e prevedere i miglioramenti delle capacità dell’IA può anche aiutarci a evitare di sprecare risorse agendo troppo presto. Oggi, verificare formalmente il software utilizzato in tutte le infrastrutture critiche per dimostrarne la sicurezza sarebbe probabilmente un’impresa terribilmente costosa. Tuttavia, il rapido miglioramento delle prestazioni con contesto lungo nelle attività di ingegneria del software per i modelli di frontiera potrebbe portare a una situazione in cui, improvvisamente, una verifica formale generalizzata diventi costo-efficace.17 In tali casi, anziché cercare di sviluppare tecnologie difensive in anticipo, dovremmo invece predisporre l’infrastruttura di misurazione per aiutarci a decidere quando agire, nonché le politiche e le relazioni necessarie per consentire un rapido dispiegamento. Il refactoring automatizzato delle codebase utilizzate nelle infrastrutture critiche, ad esempio, sarà prevedibilmente ostacolato dai lenti processi di appalto pubblico per i nuovi software. Questo è un problema che può essere affrontato fin da ora.18
La forma della frontiera delle capacità dell’IA può essere modificata. Possiamo spingere su questa frontiera per ottenere più rapidamente le capacità che desideriamo. Ad esempio, esistono molti ostacoli allo sblocco dei dataset a causa di contingenze storiche nelle normative o perché i dati non sono facilmente monetizzabili. Secondo alcune stime, il volume totale dei dati generati ogni anno è oltre un milione di volte superiore all’attuale volume di dati disponibili pubblicamente su Internet tramite l’Internet Archive, che contiene la maggior parte dei dati utilizzati oggi per l’addestramento dei modelli linguistici di grandi dimensioni. Gran parte di questi dati potrebbe risultare inutile per l’addestramento dei modelli di IA. Tuttavia, alcuni di essi, in particolare i dataset scientifici custoditi negli hard disk di agenzie governative e università, potrebbero avere un significativo valore sociale. Un’efficace formulazione delle politiche potrebbe contribuire a sbloccare i dati che permetteranno di ottenere più rapidamente capacità dell’IA benefiche.19
2. Non dovremmo trascurare i costi di uno stallo nel progresso
Potrebbe sembrare troppo ovvio dirlo. Tuttavia, riteniamo che molte proposte politiche per affrontare il rischio legato all’IA non prendano abbastanza sul serio il costo di uno stallo del progresso tecnologico.20
Fino a epoche recenti nella storia dell’umanità, la metà dei bambini moriva prima di raggiungere l’età adulta. Queste condizioni hanno prevalso fino a quando la rivoluzione scientifica e quella industriale ci hanno fornito la teoria dei germi, i vaccini, gli alimenti fortificati, gli antibiotici e migliaia di altre innovazioni simili, oltre a un livello di ricchezza molto maggiore. Non investire nella scienza e nelle tecnologie fondamentali che porteranno avanti questi progressi comporterà costi in termini di benessere umano. Questi costi devono essere bilanciati con i rischi previsti delle nuove tecnologie. Le strategie di orientamento tecnologico che trascurano i lati positivi del progresso potrebbero ritardare le soluzioni ad alcuni dei più grandi problemi odierni.
Per le scoperte scientifiche rilevanti in settori come la medicina, il potenziale vantaggio di sfruttare la frontiera delle capacità dell’intelligenza artificiale è enorme. Jacob Trefethen, finanziatore nel campo della salute globale, elenca una serie di tecnologie mediche, come i vaccini contro la malaria e la tubercolosi per gli adulti, che, se realizzate, salverebbero nel complesso circa 3,6 milioni di vite all’anno. Ciascuna di queste tecnologie è tecnicamente realizzabile, ma probabilmente non sarà disponibile prima di cinque anni. Se verranno superati gli evidenti ostacoli al progresso dell’IA in campo medico, l’IA potrebbe contribuire a fornire questi e altri beni pubblici.
La promessa di utilizzare l’IA in questo modo evidenzia come la concezione originale dello sviluppo tecnologico differenziale non sia all’altezza di una strategia completa per orientare il progresso tecnologico: concentrandosi esclusivamente sui rischi posti dalle nuove tecnologie, trascura gli enormi benefici che si possono trarre dall’accelerazione del loro sviluppo. Anche in assenza di nuove tecnologie che comportino rischi aggiuntivi, ci troviamo comunque di fronte a una serie di problemi importanti e urgenti. Come discuteremo più avanti, l’atteggiamento ragionevole nei confronti dei nuovi rischi creati dall’intelligenza artificiale è piuttosto profondamente incerto. È possibile che i problemi che già affrontiamo oggi rimangano i problemi più importanti del futuro.
Come osserva Trefethen:
Alcune tecnologie sono più importanti di altre — alcune, in effetti, sono una questione di vita o di morte. Il progresso tecnologico non è una forza mistica che ci offre per prime le più importanti. Alcuni problemi sono difficili da risolvere, non fanno guadagnare molto anche in caso di successo e non se ne parla al telegiornale. Ciò su cui le persone scelgono di lavorare determina quali nuove tecnologie verranno create.
La stessa logica che si applica alle tecnologie difensive vale anche per la ricerca e sviluppo in ambito umanitario. Lungo molti rami dell’albero tecnologico si verificano fallimenti del mercato che il settore privato, di norma, non esplorerà (o non lo farà abbastanza in fretta). Il ruolo essenziale del settore pubblico è coltivare deliberatamente queste parti trascurate del portafoglio — scegliendo, fornendo il finanziamento e accelerando il lavoro che i mercati non possono portare avanti alla velocità o alla scala necessarie.21
3. Per cogliere i benefici dell’IA, dovremmo ripensare il funzionamento della scienza
Le strategie per orientare il progresso dell’IA non dovrebbero prestare attenzione soltanto ai percorsi di ricerca a livello concreto, ma anche alla metascienza. Come dovremmo ripensare la produzione scientifica in un mondo in cui l’IA è diventata la forza motrice della scoperta scientifica? Proprio come le fabbriche hanno dovuto essere riorganizzate per sfruttare le potenzialità offerte dal motore a vapore, così anche i nostri meccanismi di finanziamento, le nostre istituzioni e i nostri incentivi dovranno essere riprogettati per trarre vantaggio dalla scoperta scientifica resa possibile dall’IA.22
L’ecosistema americano dei finanziamenti alla scienza è diventato sempre più burocratico. I ricercatori devono affrontare tempi di attesa fino a 20 mesi per ottenere i finanziamenti, e i responsabili della ricerca dedicano quasi la metà del loro tempo a pratiche burocratiche relative ai finanziamenti. Questa perdita di produttività scientifica diventerà ancora più grave in un mondo in cui il ruolo dei ricercatori sarà quello di gestire team di scienziati IA, incaricati di generare e verificare un vasto numero di nuove ipotesi. Ogni mese di ritardo causato dalla burocrazia equivarrà a molti mesi di tempo nel mondo odierno. E il modello di finanziamento classico, basato su piccoli finanziamenti a progetto assegnati a singoli ricercatori universitari, è poco adatto alla ricerca scientifica guidata dall’IA. Quest’ultima richiede sempre più risorse che le università non possiedono: infrastrutture di calcolo su larga scala e team di ingegneri dedicati per aiutare a gestire i sistemi di calcolo e i dati. Anche se l’IA consentisse miglioramenti straordinari nella nostra conoscenza del mondo, i nostri sistemi burocratici potrebbero limitare gravemente la nostra capacità di sfruttarla.
Un’ondata di nuove organizzazioni sta mostrando come dovrebbe essere il futuro della ricerca in un modo che sia veramente «pronto per l’IA». L’Arc Institute e FutureHouse sono organizzazioni di ricerca indipendenti non profit che hanno effettuato ingenti investimenti nella «scienza di squadra» guidata dalle infrastrutture. Questi investimenti hanno già portato a risultati promettenti. All’inizio di quest’anno, Arc ha rilasciato Evo 2, un modello biologico di frontiera in grado sia di identificare mutazioni patogene nei geni umani sia di progettare nuovi genomi semplici.
Per adottare questo nuovo paradigma di scoperta scientifica, agenzie come il NIH e la NSF dovrebbero fare un uso migliore di meccanismi di finanziamento flessibili come l’Other Transactions Authority (OTA). Le OTA possono consentire di sperimentare nuove strutture per il finanziamento della ricerca, come le sovvenzioni istituzionali a fondo perduto per sostenere strutture organizzative simili ad Arc e FutureHouse, e i finanziamenti rapidi per consentire un finanziamento della ricerca agile, in grado di sfruttare le capacità dell’IA in rapido miglioramento.23
4. Dobbiamo adattarci all’incertezza mentre lavoriamo per ridurla
Purtroppo, prevedere la tecnologia è estremamente difficile. Nel 1955, John von Neumann (ampiamente considerato dai suoi colleghi come la persona più brillante della sua epoca) formulò una serie di previsioni sorprendentemente accurate sul potenziale di automazione dei semiconduttori e sul rischio incombente del cambiamento climatico. Tuttavia, allo stesso tempo, le sue previsioni (e quelle di altri) riguardo alla diffusione capillare di energia nucleare a basso costo e alla geoingegneria dilagante non si sono avverate.24
Anche gli sviluppi che hanno portato alle capacità dei modelli di uso generale odierni sarebbero stati altrettanto difficili da prevedere. Il lavoro di Google sulla comprensione del linguaggio naturale era guidato dal desiderio di produrre risultati di ricerca migliori per vendere più pubblicità. Questi incentivi hanno indirettamente portato all’architettura del trasformatore, l’innovazione algoritmica chiave che sta alla base di quasi tutti i modelli di IA di frontiera odierni. Le GPU odierne non traggono la loro origine da alcuno sforzo di sviluppo specifico per l’IA, ma piuttosto dalle esigenze dei videogiochi, che richiedevano lo stesso tipo di elaborazione parallela ad alte prestazioni che si è rivelata particolarmente adatta all’addestramento di grandi reti neurali. Prima di orientarsi verso i modelli linguistici di grandi dimensioni, OpenAI ha dedicato inizialmente il proprio tempo all’esplorazione dell’apprendimento per rinforzo profondo per i videogiochi e la robotica come percorsi più promettenti verso l’IAG.
Anche all’interno dell’attuale paradigma di sviluppo dell’IA, nonostante la capacità delle leggi di scala di prevedere con precisione la perdita in fase di addestramento, le capacità specifiche dei modelli hanno spesso sorpreso i ricercatori nel campo dell’IA, sia in compiti specifici come la programmazione, sia in termini di propensioni più ampie, come l’autoconservazione e l’inganno.
Questa serie discontinua di previsioni dovrebbe dissuaderci dall’essere troppo sicuri di come e quando si concretizzeranno le maggiori opportunità e i rischi legati all’IA avanzata. Ma questa incertezza non implica che l’approccio giusto sia quello di non fare nulla. Dovremmo invece adattarci all’incertezza e cercare di ridurla.
Una parte dell’incertezza sarà difficile da ridurre. Non avremmo potuto prevedere le contingenze storiche che hanno portato allo sviluppo del trasformatore e della GPU. Ma molte incertezze sulle capacità dell’IA e sui loro effetti possono probabilmente essere ridotte tramite un migliore ecosistema di misurazione e valutazione dell’IA.25
Adattarsi all’incertezza sui progressi dell’IA è anche un’impresa politica. È difficile mobilitare un ampio consenso a sostegno di un’ambiziosa agenda per orientare lo sviluppo tecnologico a fronte di una diffusa incertezza. L’approccio migliore è pluralistico, in grado di coniugare una serie di obiettivi importanti. Il CHIPS and Science Act ne è un buon esempio. Grazie alla sua duplice attenzione alla resilienza della catena di approvvigionamento dei semiconduttori e alla promozione della scienza di base, ha ottenuto il sostegno sia da parte degli attori legati alla sicurezza nazionale, sia dai sostenitori della scienza pubblica. Un programma per orientare lo sviluppo tecnologico dell’IA dovrebbe analogamente includere misure incentrate sia sulla scienza che sulla sicurezza.
La sequenza di lancio
Il saggio di Dario Amodei Macchine di amorevole grazia offre una visione allettante dei problemi scientifici che potrebbero essere risolti dai progressi dell’IA nei prossimi cinque anni. Tuttavia, non descrive i passi concreti necessari per applicare le nuove capacità dell’IA alla risoluzione di problemi in ambiti privi di forti incentivi di mercato, come le tecnologie diffuse per la resilienza sociale e la scienza di base. Il percorso predefinito dello sviluppo dell’IA potrebbe non garantirci questi benefici così rapidamente come vorremmo, né proteggerci dalle nuove minacce create dall’IA.
Qual è la giusta sequenza di tecnologie che dobbiamo sviluppare mentre passiamo a un mondo in cui l’intelligenza è troppo economica per essere misurata? L’obiettivo di questa raccolta è iniziare a costruire la risposta a questa domanda. Abbiamo raccolto proposte concrete ma ambiziose da parte di alcune delle menti più brillanti che riflettono su come utilizzare l’IA per plasmare in modo proattivo il progresso sia per la scienza che per la sicurezza. La raccolta presenta progetti che difficilmente vedrebbero la luce spontaneamente dati gli attuali incentivi commerciali, ma che possono essere realizzati o pienamente implementati entro il 2030 e che sono particolarmente importanti da portare a termine alla luce dei rapidi progressi dell’IA.
Il successo non deriverà da un unico piano generale, ma piuttosto da una strategia adattiva che si evolva di pari passo con le capacità dell’IA. La nostra strategia non dovrebbe ignorare gli enormi vantaggi della tecnologia, né trascurare i pericoli del controllo dall’alto e della centralizzazione. Per citare von Neumann in Can we survive technology?:
Quale salvaguardia rimane? A quanto pare solo misure opportunistiche quotidiane — o forse annuali —, una lunga sequenza di piccole decisioni corrette.
Questa raccolta non è un piano esaustivo. E se confrontata con l’entità degli investimenti privati nella ricerca e sviluppo sull’IA, quasi ogni proposta appare di piccola scala. Speriamo che le idee contenute in questa raccolta entrino a far parte di una sequenza di «piccole decisioni corrette» volte a plasmare positivamente la traiettoria della tecnologia più importante mai sviluppata.
Ringraziamenti
Un ringraziamento speciale a tutti gli autori dei saggi di questa raccolta; a Emma Kumleben, Santi Ruiz e Beez Africa per la revisione; a Beez ed Emma Steinhobel per la grafica; e a Caleb Watney, Ari Kagan, Arushi Gupta, Saif Khan, Ben Schifman, Alexandra Bates, Jonah Weinbaum e Alec Stapp per i loro commenti e suggerimenti nel corso dell’intero lavoro.
Tim Fist è il direttore delle politiche sulle tecnologie emergenti presso l’IFP.
Tao Burga è un ricercatore in ambito tecnologico presso l’IFP, dove si occupa di politiche sull’intelligenza artificiale, controlli sulle esportazioni e accelerazione dell’innovazione nella sicurezza dell’IA.
Tim Hwang è un ricercatore senior in ambito tecnologico presso l’IFP e autore della newsletter Macroscience.