Macchine di amorevole grazia

Come l’IA potrebbe trasformare il mondo in meglio

BenessereCrescita economicaIntelligenza artificialeIntelligenza artificiale trasformativaProgress studiesSalute e sviluppo globaleSuperintelligenza

Rifletto e parlo molto dei rischi legati a un’IA potente. L’azienda di cui sono amministratore delegato, Anthropic, svolge molte ricerche su come ridurre tali rischi. Per questo motivo, a volte le persone giungono alla conclusione che io sia un pessimista o un «catastrofista» convinto che l’IA sarà prevalentemente negativa o pericolosa. Non la penso affatto così. Anzi, uno dei motivi principali per cui mi concentro sui rischi è che sono l’unica cosa che si frappone tra noi e quello che considero un futuro fondamentalmente positivo. Penso che la maggior parte delle persone stia sottovalutando quanto possano essere radicali i vantaggi dell’IA, proprio come penso che la maggior parte stia sottovalutando quanto possano essere gravi i rischi.

In questo saggio cerco di delineare come potrebbero presentarsi questi vantaggi: come potrebbe essere un mondo con un’IA potente se tutto andasse per il verso giusto. Naturalmente nessuno può conoscere il futuro con certezza o precisione, e gli effetti di un’IA potente saranno probabilmente ancora più imprevedibili rispetto ai cambiamenti tecnologici del passato, quindi tutto ciò comporterà inevitabilmente una buona dose di congetture. Ma il mio obiettivo è formulare ipotesi che siano almeno fondate e utili, in grado di cogliere l’essenza di ciò che accadrà anche se la maggior parte dei dettagli dovesse rivelarsi errata. Includo molti dettagli soprattutto perché ritengo che una visione concreta faccia avanzare la discussione molto più di una visione eccessivamente cauta e astratta.

Innanzitutto, però, vorrei spiegare brevemente perché io e Anthropic non abbiamo parlato molto dei lati positivi di un’IA potente e perché probabilmente continueremo, nel complesso, a parlare molto dei rischi legati all’IA. In particolare, ho fatto questa scelta spinto dal desiderio di:

Massimizzare l’effetto leva. Lo sviluppo di base della tecnologia dell’IA e molti (non tutti) dei suoi benefici sembrano inevitabili (a meno che i rischi non mandino tutto all’aria) e sono fondamentalmente guidati da potenti forze di mercato. D’altra parte, i rischi non sono predeterminati e le nostre azioni possono modificarne notevolmente la probabilità.
Evitare la percezione di propaganda. Le aziende di IA che parlano di tutti gli straordinari benefici di questa tecnologia possono dare l’impressione di fare propaganda, o di cercare di distogliere l’attenzione dagli aspetti negativi. Ritengo inoltre che, per una questione di principio, sia dannoso per l’anima dedicare troppo tempo a «tirare acqua al proprio mulino».
Evitare la grandiosità. Spesso mi infastidisce il modo in cui molte figure pubbliche che si occupano del rischio legato all’IA (per non parlare dei dirigenti delle aziende di IA) parlano del mondo post-IAG, come se fosse loro missione realizzarlo da soli, come un profeta che guida il proprio popolo verso la salvezza. Ritengo sia pericoloso considerare le aziende come entità che plasmano unilateralmente il mondo, e altrettanto pericoloso guardare a obiettivi tecnologici concreti in termini essenzialmente religiosi.
Evitare il bagaglio «fantascientifico». Sebbene io ritenga che la maggior parte delle persone sottovaluti i vantaggi di un’IA potente, la ristretta comunità che discute di futuri radicali dell’IA lo fa spesso con un tono eccessivamente «fantascientifico» (tirando in ballo, ad esempio, il caricamento della mente, l’esplorazione spaziale o generiche atmosfere cyberpunk). Ritengo che questo spinga le persone a prendere meno sul serio tali affermazioni e ad attribuirvi una sorta di irrealtà. Per essere chiari, la questione non è se le tecnologie descritte siano possibili o probabili (il saggio principale ne discute in modo minuzioso), ma piuttosto che quell’«atmosfera» introduce implicitamente una serie di preconcetti culturali e presupposti non dichiarati su quale tipo di futuro sia auspicabile, su come si evolveranno le varie questioni sociali, ecc. Il risultato finisce spesso per suonare come la fantasia di una ristretta sottocultura, e per allontanare la maggior parte delle persone.

Eppure, nonostante tutte le preoccupazioni appena esposte, credo davvero sia importante discutere di come potrebbe essere un mondo positivo con un’IA potente, pur facendo del nostro meglio per evitare le insidie di cui sopra. Anzi, ritengo fondamentale avere una visione del futuro che sia davvero fonte di ispirazione, e non solo un piano per spegnere gli incendi. Molte delle implicazioni di un’IA potente sono antagonistiche o pericolose, ma alla fine dei conti deve esserci qualcosa per cui stiamo lottando, un risultato a somma positiva in cui tutti stiano meglio, qualcosa che spinga le persone a superare i propri battibecchi e ad affrontare le sfide che ci attendono. La paura è un tipo di motivazione, ma non è sufficiente: abbiamo bisogno anche di speranza.

L’elenco delle applicazioni positive di un’IA potente è estremamente lungo (e comprende la robotica, la produzione, l’energia e molto altro), ma mi concentrerò su un numero ristretto di settori che mi sembrano avere il maggior potenziale per migliorare direttamente la qualità della vita umana. Le cinque categorie che mi entusiasmano di più sono:

Biologia e salute fisica
Neuroscienze e salute mentale
Sviluppo economico e povertà
Pace e governance
Lavoro e significato

Le mie previsioni risulteranno radicali secondo la maggior parte dei criteri (ad eccezione delle visioni fantascientifiche sulla «singolarità»⁠⁠1), ma le esprimo con serietà e sincerità. Tutto ciò che sto dicendo potrebbe facilmente rivelarsi errato (per ribadire quanto detto sopra), ma ho almeno cercato di fondare le mie opinioni su una valutazione semi-analitica di quanto i progressi in vari campi potrebbero accelerare e cosa ciò potrebbe significare nella pratica. Ho la fortuna di avere esperienza professionale sia in biologia che in neuroscienze, e sono un dilettante informato nel campo dello sviluppo economico, ma sono certo che commetterò molti errori. Una cosa che la stesura di questo saggio mi ha fatto capire è che sarebbe utile riunire un gruppo di esperti dei vari settori (in biologia, economia, relazioni internazionali e altre aree) per scrivere una versione molto migliore e più informata di ciò che ho prodotto qui. Probabilmente è meglio considerare il mio lavoro come uno spunto iniziale per quel gruppo.

Presupposti di base e quadro di riferimento

Per rendere l’intero saggio più preciso e fondato, è utile specificare chiaramente cosa intendiamo per IA potente (ovvero la soglia a partire dalla quale inizia a scorrere il periodo di 5-10 anni), nonché definire un quadro di riferimento per riflettere sugli effetti di tale IA una volta che sarà presente.

Che aspetto avrà l’IA potente (non mi piace il termine IAG)⁠⁠2 e quando (o se) arriverà è di per sé un argomento vastissimo. Ne ho parlato pubblicamente e potrei dedicargli un saggio a sé stante (probabilmente lo farò prima o poi). Ovviamente, molte persone dubitano che un’IA potente possa essere realizzata a breve, e alcune dubitano che possa esserlo mai. Penso che potrebbe arrivare già nel 2026, anche se ci sono scenari in cui potrebbe richiedere molto più tempo. Ma ai fini di questo saggio, vorrei mettere da parte queste questioni, ipotizzare che arriverà in tempi ragionevolmente brevi e concentrarmi su ciò che accadrà nei 5-10 anni successivi. Voglio inoltre ipotizzare una definizione di come sarà un sistema del genere, quali saranno le sue capacità e come interagirà, anche se su questo punto c’è spazio per il dissenso.

Per IA potente intendo un modello di IA — probabilmente simile nella forma agli attuali modelli linguistici di grandi dimensioni, sebbene possa basarsi su un’architettura diversa, coinvolgere diversi modelli interagenti ed essere addestrato in modo diverso — con le seguenti proprietà:

In termini di intelligenza pura⁠⁠3, è più intelligente di un vincitore del Premio Nobel nella maggior parte dei campi rilevanti: biologia, programmazione, matematica, ingegneria, scrittura, ecc. Ciò significa che è in grado di dimostrare teoremi matematici irrisolti, scrivere romanzi di altissimo livello, creare da zero basi di codice complesse, ecc.
Oltre a essere semplicemente una «cosa intelligente con cui si dialoga», ha a disposizione tutte le «interfacce» di un essere umano che lavora da remoto, inclusi testo, audio, video, controllo tramite mouse e tastiera e accesso a Internet. Può svolgere qualsiasi azione, comunicazione o operazione remota resa possibile da questa interfaccia, tra cui compiere azioni su Internet, ricevere o fornire indicazioni agli esseri umani, ordinare materiali, dirigere esperimenti, guardare video, realizzare video e così via. Svolge tutti questi compiti, ancora una volta, con un’abilità che supera quella degli esseri umani più capaci al mondo.
Non si limita a rispondere passivamente alle domande; al contrario, è possibile affidargli compiti che richiedono ore, giorni o settimane per essere portati a termine, dopodiché si mette al lavoro e li svolge in modo autonomo, proprio come farebbe un dipendente brillante, chiedendo chiarimenti se necessario.
Non ha una forma fisica (se non quella di esistere sullo schermo di un computer), ma può controllare strumenti fisici esistenti, robot o apparecchiature di laboratorio tramite un computer; in teoria potrebbe persino progettare robot o apparecchiature da utilizzare autonomamente.
Le risorse utilizzate per l’addestramento del modello possono essere riutilizzate per eseguire milioni di istanze del modello stesso (ciò corrisponde alle dimensioni previste dei cluster entro il ~2027) e il modello è in grado di assorbire informazioni e generare azioni a una velocità circa da 10 a 100 volte superiore a quella umana⁠⁠4. Potrebbe tuttavia essere limitato dal tempo di risposta del mondo fisico o del software con cui interagisce.
Ciascuna di queste copie — milioni in tutto — può agire in modo indipendente su compiti non correlati, oppure, se necessario, possono lavorare tutte insieme nello stesso modo in cui collaborerebbero gli esseri umani, magari con diverse sottopopolazioni sottoposte a fine-tuning per eccellere in compiti specifici.

Potremmo riassumere questo concetto come un «paese di geni in un centro di calcolo».

Chiaramente un’entità del genere sarebbe in grado di risolvere problemi molto difficili, molto velocemente, ma non è affatto ovvio capire quanto velocemente. Due posizioni «estreme» mi sembrano entrambe errate. In primo luogo, si potrebbe pensare che il mondo verrebbe trasformato istantaneamente, nell’arco di secondi o giorni («la Singolarità»), man mano che un’intelligenza superiore si auto-migliora e risolve quasi immediatamente ogni possibile compito scientifico, ingegneristico e operativo. Il problema è che esistono limiti fisici e pratici reali, ad esempio nella realizzazione di hardware o nella conduzione di esperimenti biologici. Anche un nuovo paese di geni si scontrerebbe con questi limiti. L’intelligenza può essere molto potente, ma non è polvere magica.

In secondo luogo, e per contro, si potrebbe ritenere che il progresso tecnologico sia ormai saturo o limitato nella sua velocità dai dati del mondo reale o da fattori sociali, e che un’intelligenza superiore a quella umana aggiungerebbe ben poco⁠⁠5. Questo mi sembra altrettanto inverosimile: riesco a pensare a centinaia di problemi scientifici, o persino sociali, in cui un folto gruppo di persone davvero intelligenti accelererebbe drasticamente il progresso, specialmente se non si limitassero all’analisi e potessero intervenire concretamente nel mondo reale (cosa che il nostro ipotetico paese di geni può fare, anche dirigendo o assistendo squadre di esseri umani).

Penso che la verità sia probabilmente un complesso miscuglio di queste due visioni estreme, qualcosa che varia a seconda del compito e del campo ed è molto sfumato nei dettagli. Credo che ci servano nuovi quadri concettuali per riflettere su questi dettagli in modo produttivo.

Gli economisti parlano spesso di «fattori di produzione»: concetti come il lavoro, la terra e il capitale. L’espressione «rendimenti marginali del lavoro/della terra/del capitale» coglie l’idea che, in una data situazione, un determinato fattore possa essere o meno quello limitante: ad esempio, un’aeronautica militare ha bisogno sia di aerei sia di piloti, e assumere più piloti non serve a molto se mancano gli aerei. Credo che nell’era dell’IA dovremmo parlare dei rendimenti marginali dell’intelligenza⁠⁠6, cercando di capire quali siano gli altri fattori complementari all’intelligenza che diventano limitanti quando quest’ultima è molto elevata. Non siamo abituati a ragionare in questo modo — a chiederci «quanto aiuta essere più intelligenti in questo compito, e su quale scala temporale?» — ma sembra il modo giusto per concettualizzare un mondo dotato di un’IA molto potente.

Ecco un mio elenco ipotetico dei fattori che limitano l’intelligenza o le sono complementari:

Velocità del mondo esterno. Gli agenti intelligenti devono operare nel mondo in modo interattivo per ottenere risultati e anche per apprendere⁠⁠7. Ma il mondo si muove a una velocità limitata. Le cellule e gli animali hanno ritmi fisiologici fissi, quindi gli esperimenti su di essi richiedono una certa quantità di tempo che potrebbe essere irriducibile. Lo stesso vale per l’hardware, la scienza dei materiali, per tutto ciò che comporta la comunicazione con le persone e persino per la nostra attuale infrastruttura software. Inoltre, in ambito scientifico sono spesso necessari molti esperimenti in sequenza, ciascuno dei quali trae insegnamento o si basa su quello precedente. Tutto ciò significa che il tempo necessario per completare un progetto di grande portata — ad esempio lo sviluppo di una cura per il cancro — potrebbe avere un limite inferiore irriducibile, che non può essere ulteriormente accorciato nemmeno se l’intelligenza continua ad aumentare.
Necessità di dati. A volte i dati grezzi scarseggiano e, in loro assenza, un’intelligenza superiore non è d’aiuto. I fisici delle particelle di oggi sono molto ingegnosi e hanno sviluppato un’ampia gamma di teorie, ma mancano dei dati necessari per scegliere quale sia quella giusta, perché le informazioni fornite dagli acceleratori di particelle sono assai limitate. Non è affatto detto che questi scienziati otterrebbero risultati nettamente migliori se fossero dotati di superintelligenza, se non forse accelerando la costruzione di un acceleratore più grande.
Complessità intrinseca. Alcune cose sono intrinsecamente imprevedibili o caotiche, e nemmeno l’IA più potente sarebbe in grado di prevederle o districarle in modo sostanzialmente migliore rispetto a un essere umano o a un computer odierno. Ad esempio, nel caso generale di un sistema caotico (come il problema dei tre corpi), persino un’IA incredibilmente potente potrebbe spingersi solo marginalmente più in là con le previsioni⁠⁠8 rispetto agli esseri umani e ai computer attuali.
Vincoli imposti dagli esseri umani. Molte cose non possono essere fatte senza infrangere le leggi, danneggiare gli esseri umani o destabilizzare la società. Un’IA allineata non vorrebbe farlo (e se avessimo un’IA non allineata, torneremmo a parlare di rischi). Molte strutture sociali umane sono inefficienti o persino attivamente dannose, ma sono difficili da modificare se si vogliono rispettare vincoli come i requisiti di legge sulle sperimentazioni cliniche, la reale volontà delle persone di cambiare le proprie abitudini, o il comportamento dei governi. Tra gli esempi di progressi che funzionano bene sul piano tecnico, ma il cui impatto è stato sostanzialmente ridotto da normative o timori infondati, figurano l’energia nucleare, il volo supersonico e persino gli ascensori.
Leggi fisiche. Questa è una versione più drastica del primo punto. Esistono leggi fisiche che sembrano inviolabili. Non è possibile viaggiare più veloci della luce. Un budino mescolato non può essere separato di nuovo nei suoi ingredienti. I chip possono ospitare solo un certo numero di transistor per centimetro quadrato prima di diventare inaffidabili. L’elaborazione informatica richiede una certa quantità minima di energia per ogni bit cancellato, il che limita la densità di calcolo nel mondo.

Esiste un’ulteriore distinzione basata sulle scale temporali. Ciò che nel breve termine costituisce un vincolo rigido può, nel lungo termine, diventare più malleabile di fronte all’intelligenza. Ad esempio, l’intelligenza potrebbe essere utilizzata per sviluppare un nuovo paradigma sperimentale in grado di farci apprendere in vitro ciò che un tempo richiedeva esperimenti su animali vivi, oppure per costruire gli strumenti necessari a raccogliere nuovi dati (come l’acceleratore di particelle più grande), o ancora per aggirare (entro i limiti etici) i vincoli legati al fattore umano (ad esempio, contribuendo a migliorare il sistema delle sperimentazioni cliniche, favorendo la creazione di nuove giurisdizioni in cui queste ultime siano soggette a minor burocrazia, o facendo progredire la scienza stessa per rendere i test sull’uomo meno necessari o più economici).

Pertanto, dovremmo immaginare uno scenario in cui l’intelligenza è inizialmente fortemente limitata dagli altri fattori di produzione, ma col tempo è l’intelligenza stessa ad aggirarli sempre più, anche se non si dissolveranno mai del tutto (e alcune cose, come le leggi fisiche, sono assolute)⁠⁠9. La domanda chiave è quanto velocemente tutto ciò accadrà e in quale ordine.

Tenendo presente il quadro sopra descritto, cercherò di rispondere a tale domanda per le cinque aree menzionate nell’introduzione.

1. Biologia e salute

La biologia è probabilmente l’area in cui il progresso scientifico ha il maggior potenziale per migliorare direttamente e inequivocabilmente la qualità della vita umana. Nel secolo scorso alcune delle afflizioni umane più antiche (come il vaiolo) sono state finalmente sconfitte, ma ne rimangono ancora molte altre, e sconfiggerle rappresenterebbe un enorme traguardo umanitario. Oltre alla cura delle malattie, la scienza biologica può in linea di principio migliorare la qualità di base della salute umana, prolungando l’aspettativa di vita in buona salute, aumentando il controllo e la libertà sui nostri stessi processi biologici e affrontando i problemi quotidiani che oggi consideriamo parte immutabile della condizione umana.

Nel linguaggio dei «fattori limitanti» della sezione precedente, le principali sfide nell’applicare direttamente l’intelligenza alla biologia sono i dati, la velocità del mondo fisico e la complessità intrinseca (di fatto, tutti e tre sono correlati tra loro). Anche i vincoli umani hanno un ruolo in una fase successiva, quando entrano in scena le sperimentazioni cliniche. Esaminiamoli uno per uno.

Gli esperimenti su cellule, animali e persino processi chimici sono limitati dalla velocità del mondo fisico: molti protocolli biologici prevedono la coltura di batteri o di altre cellule, o semplicemente l’attesa che si verifichino reazioni chimiche, e ciò può talvolta richiedere giorni o persino settimane, senza alcun modo ovvio per accelerare i tempi. Gli esperimenti sugli animali possono richiedere mesi (o più) e quelli sull’uomo spesso richiedono anni (o addirittura decenni nel caso di studi sugli esiti a lungo termine). In parte legata a questo è la scarsità di dati: non tanto in quantità, quanto in qualità. C’è sempre una carenza di dati chiari e inequivocabili che isolino un effetto biologico di interesse dalle altre 10 000 variabili confondenti in gioco, o che intervengano in modo causale in un dato processo, o che misurino direttamente un certo effetto (anziché dedurne le conseguenze in modo indiretto o approssimativo). Anche i dati molecolari massicci e quantitativi, come i dati proteomici che ho raccolto mentre lavoravo sulle tecniche di spettrometria di massa, sono affetti da rumore e presentano molte lacune (in quali tipi di cellule si trovavano queste proteine? In quale parte della cellula? In quale fase del ciclo cellulare?).

La complessità intrinseca è in parte responsabile di questi problemi legati ai dati: se hai mai visto un diagramma che illustra la biochimica del metabolismo umano, saprai che è molto difficile isolare l’effetto di qualsiasi parte di questo sistema complesso, ed è ancora più difficile intervenire sul sistema in modo preciso o prevedibile. Infine, al di là del tempo intrinseco necessario per condurre un esperimento sugli esseri umani, le vere e proprie sperimentazioni cliniche comportano una grande quantità di burocrazia e requisiti normativi che (secondo l’opinione di molti, me compreso) aggiungono ulteriore tempo inutile e rallentano i progressi.

Alla luce di tutto ciò, molti biologi sono da tempo scettici riguardo al valore dell’IA e, più in generale, dei «big data» in biologia. Storicamente, i matematici, gli informatici e i fisici che negli ultimi 30 anni hanno applicato le loro competenze alla biologia hanno ottenuto un notevole successo, ma non hanno avuto l’impatto veramente trasformativo inizialmente sperato. Parte di questo scetticismo è stato attenuato da scoperte importanti e rivoluzionarie come AlphaFold (che è appena valso ai suoi creatori un meritatissimo Premio Nobel per la Chimica) e AlphaProteo⁠⁠10, ma permane la percezione che l’IA sia (e continuerà a essere) utile solo in una serie limitata di circostanze. Una formulazione comune è: «L’IA può analizzare i dati in modo più efficace, ma non può produrre più dati né migliorarne la qualità. Garbage in, garbage out».

Ma ritengo che tale prospettiva pessimistica consideri l’IA nel modo sbagliato. Se la nostra ipotesi fondamentale sul progresso dell’IA è corretta, allora il modo giusto di concepire l’IA non è come un metodo per analizzare i dati, ma come un biologo virtuale che svolge tutte le attività dei biologi, comprese la progettazione e l’esecuzione di esperimenti nel mondo reale (controllando robot di laboratorio o semplicemente dicendo agli esseri umani quali esperimenti eseguire, come farebbe il responsabile di un laboratorio con i suoi dottorandi), inventando nuovi metodi biologici o tecniche di misurazione, e così via. È accelerando l’intero processo di ricerca che l’IA può davvero accelerare la biologia. Voglio ripeterlo perché è l’equivoco più comune che emerge quando parlo della capacità dell’IA di trasformare la biologia: non sto parlando dell’IA come di un mero strumento per analizzare i dati. In linea con la definizione di IA potente fornita all’inizio di questo saggio, sto parlando di usare l’IA per eseguire, dirigere e perfezionare quasi tutto ciò che fanno i biologi.

Per essere più preciso su dove ritengo probabile che arrivi l’accelerazione: una parte sorprendentemente ampia dei progressi in biologia è derivata da un numero davvero esiguo di scoperte, spesso legate a strumenti o tecniche di misurazione di ampio respiro⁠⁠11 che consentono un intervento preciso ma generalizzato o programmabile nei sistemi biologici. Di scoperte fondamentali come queste se ne registra forse ~1 all’anno e, nel loro insieme, determinano probabilmente oltre il 50 % dei progressi in biologia. Queste scoperte sono così potenti proprio perché superano la complessità intrinseca e i limiti dei dati, accrescendo direttamente la nostra comprensione e il nostro controllo sui processi biologici. Poche scoperte per decennio hanno permesso sia la maggior parte della nostra comprensione scientifica di base della biologia, sia lo sviluppo di molte delle terapie mediche più efficaci.

Ecco alcuni esempi:

CRISPR: una tecnica che consente la modifica in vivo di qualsiasi gene negli organismi viventi (la sostituzione di una sequenza genica arbitraria con qualsiasi altra sequenza arbitraria). Dallo sviluppo della tecnica originale, vi sono stati costanti miglioramenti per bersagliare tipi cellulari specifici, aumentare la precisione e ridurre le modifiche ai geni errati — tutti elementi necessari per un uso sicuro sugli esseri umani.
Vari tipi di microscopia per osservare ciò che accade con estrema precisione: microscopi ottici avanzati (con vari tipi di tecniche di fluorescenza, ottiche speciali, ecc.), microscopi elettronici, microscopi a forza atomica, ecc.
Sequenziamento e sintesi del genoma, il cui costo è diminuito di diversi ordini di grandezza negli ultimi due decenni.
Tecniche optogenetiche che consentono di indurre l’attivazione di un neurone semplicemente illuminandolo.
Vaccini a mRNA che, in linea di principio, ci consentono di progettare un vaccino contro qualsiasi agente patogeno e di adattarlo rapidamente (i vaccini a mRNA sono ovviamente diventati famosi durante la pandemia di COVID).
Terapie cellulari come la CAR-T che consentono di prelevare le cellule immunitarie dal corpo e «riprogrammarle» per attaccare, in linea di principio, qualsiasi bersaglio.
Intuizioni concettuali come la teoria microbica delle malattie o la scoperta di un legame tra il sistema immunitario e il cancro⁠⁠12.

Mi prendo la briga di elencare tutte queste tecnologie perché voglio avanzare un’affermazione cruciale al riguardo: penso che il loro tasso di scoperta potrebbe essere aumentato di 10 volte o più se ci fossero molti più ricercatori talentuosi e creativi*.* Oppure, per dirla in altro modo, penso che i rendimenti dell’intelligenza siano elevati per queste scoperte, e che tutto il resto in biologia e medicina derivi principalmente da esse.

Perché la penso così? Per via delle risposte ad alcune domande che dovremmo abituarci a porci quando cerchiamo di determinare i «rendimenti dell’intelligenza». In primo luogo, queste scoperte sono generalmente opera di un numero esiguo di ricercatori, spesso sempre le stesse persone, il che suggerisce che il fattore chiave sia l’abilità e non la ricerca casuale (quest’ultima farebbe pensare che a limitare i progressi sia la durata degli esperimenti). In secondo luogo, spesso «avrebbero potuto essere fatte» molto prima di quando lo sono state davvero: ad esempio, CRISPR era un componente naturale del sistema immunitario dei batteri noto fin dagli anni ’80, ma ci sono voluti altri 25 anni prima che si capisse di poterlo riadattare per l’editing genomico in generale. Tali scoperte subiscono inoltre ritardi di molti anni a causa della mancanza di supporto da parte della comunità scientifica verso direzioni promettenti (vedi questo profilo sull’inventrice dei vaccini a mRNA; storie simili abbondano). In terzo luogo, i progetti di successo sono spesso improvvisati o nascono da idee marginali che inizialmente non sembravano promettenti, anziché da sforzi finanziati su larga scala. Tutto ciò suggerisce che a guidare le scoperte non è solo una massiccia concentrazione di risorse, ma l’ingegno.

Infine, sebbene alcune di queste scoperte presentino una «dipendenza seriale» (è necessario fare prima la scoperta A per disporre degli strumenti o delle conoscenze necessari a fare la scoperta B) — il che, ancora una volta, potrebbe causare ritardi sperimentali — molte, forse la maggior parte, sono indipendenti, il che significa che si può lavorare su tante di esse in parallelo. Entrambi questi fatti, insieme alla mia esperienza generale come biologo, mi portano a credere fermamente che ci siano centinaia di queste scoperte in attesa di essere fatte se solo gli scienziati fossero più intelligenti e più abili nel creare collegamenti tra la vasta quantità di conoscenze biologiche di cui l’umanità dispone (si consideri ancora l’esempio del CRISPR). Il successo di AlphaFold/AlphaProteo nel risolvere problemi importanti in modo molto più efficace degli esseri umani, nonostante decenni di modelli fisici accuratamente progettati, fornisce una prova di principio (seppur con uno strumento limitato in un ambito ristretto) che dovrebbe indicare la via da seguire.

Pertanto, la mia ipotesi è che un’IA potente potrebbe almeno decuplicare il ritmo di queste scoperte, regalandoci i prossimi 50-100 anni di progresso biologico in soli 5-10 anni.⁠⁠13 Perché non centuplicarlo? Forse è possibile, ma in questo caso sia la dipendenza seriale che i tempi degli esperimenti diventano importanti: ottenere 100 anni di progresso in un anno richiede che molte cose vadano per il verso giusto al primo tentativo, compresi gli esperimenti sugli animali e aspetti quali la progettazione di microscopi o costose strutture di laboratorio. In realtà sono aperto all’idea (che forse può sembrare assurda) che potremmo ottenere 1000 anni di progresso in 5-10 anni, ma sono molto scettico sul fatto che si possano ottenere 100 anni in un anno. Per dirla in altro modo, penso che ci sia un ritardo costante inevitabile: gli esperimenti e la progettazione dell’hardware presentano una certa «latenza» e devono essere reiterati un numero «irriducibile» di volte per apprendere cose che non possono essere dedotte logicamente. Ma, in aggiunta a ciò, potrebbe essere possibile un massiccio parallelismo⁠⁠14.

E che dire delle sperimentazioni cliniche? Sebbene comportino molta burocrazia e rallentamenti, la verità è che gran parte (seppur non tutta!) della loro lentezza deriva in ultima analisi dalla necessità di valutare rigorosamente farmaci che funzionano a malapena o in modo ambiguo. Questo è purtroppo vero per la maggior parte delle terapie odierne: il farmaco antitumorale medio aumenta la sopravvivenza di pochi mesi, pur presentando effetti collaterali significativi che devono essere attentamente misurati (una situazione simile si riscontra per i farmaci contro l’Alzheimer). Ciò porta a studi su vasta scala (per ottenere la potenza statistica) e a difficili compromessi che le agenzie regolatorie in genere non sono molto brave a trovare, sempre a causa della burocrazia e della complessità degli interessi contrastanti.

Quando qualcosa funziona davvero bene, il processo è molto più rapido: esiste un percorso di approvazione accelerato ed è molto più facile ottenere l’approvazione quando la dimensione dell’effetto è ampia. I vaccini a mRNA per il COVID sono stati approvati in 9 mesi — molto più rapidamente rispetto al ritmo consueto. Detto questo, anche in queste condizioni le sperimentazioni cliniche sono ancora troppo lente — i vaccini a mRNA probabilmente avrebbero dovuto essere approvati in circa 2 mesi. Ma questo tipo di ritardi (circa 1 anno dall’inizio alla fine per un farmaco), combinati con una massiccia parallelizzazione e con la necessità di alcune, ma non troppe, iterazioni («qualche tentativo»), sono molto compatibili con una trasformazione radicale nell’arco di 5-10 anni. Con un po’ più di ottimismo, è possibile che la scienza biologica potenziata dall’IA riduca la necessità di iterazioni nelle sperimentazioni cliniche sviluppando modelli sperimentali animali e cellulari (o addirittura simulazioni) migliori, in grado di prevedere con maggiore precisione ciò che accadrà negli esseri umani. Ciò avrà un’importanza particolare nello sviluppo di farmaci contro il processo di invecchiamento, che si protrae per decenni e per il quale è necessario un ciclo di iterazione più rapido.

Infine, in merito alle sperimentazioni cliniche e alle barriere sociali, vale la pena sottolineare esplicitamente che, per certi versi, le innovazioni biomediche vantano una storia di applicazione riuscita insolitamente positiva, a differenza di alcune altre tecnologie⁠⁠15. Come accennato nell’introduzione, molte tecnologie sono ostacolate da fattori sociali nonostante funzionino bene dal punto di vista tecnico. Ciò potrebbe suggerire una prospettiva pessimistica su ciò che l’IA può realizzare*.* La biomedicina è però unica in quanto, sebbene il processo di sviluppo dei farmaci sia eccessivamente macchinoso, una volta sviluppati, questi vengono generalmente adottati e utilizzati con successo.

Per riassumere quanto detto sopra, la mia previsione di base è che la biologia e la medicina potenziate dall’IA ci consentiranno di comprimere in 5-10 anni i progressi che i biologi umani avrebbero compiuto nei prossimi 50-100 anni. Chiamerò questo scenario il «XXI secolo compresso»: l’idea che, una volta sviluppata un’IA potente, in pochi anni realizzeremo tutti i progressi in biologia e medicina che avremmo compiuto nell’intero XXI secolo.

Sebbene prevedere ciò che un’IA potente potrà fare nel giro di pochi anni rimanga intrinsecamente difficile e speculativo, c’è una certa concretezza nel chiedersi «cosa potrebbero fare gli esseri umani senza aiuto nei prossimi 100 anni?». Osservare semplicemente ciò che abbiamo realizzato nel XX secolo, estrapolare dai primi due decenni del XXI, o chiederci a cosa ci porterebbero «10 CRISPR e 50 CAR-T»: sono tutti modi pratici e concreti per stimare il livello generale di progresso che potremmo aspettarci da un’IA potente.

Di seguito cerco di stilare un elenco di ciò che potremmo aspettarci. Questo non si basa su alcuna metodologia rigorosa e quasi certamente si rivelerà errato nei dettagli, ma cerca di trasmettere il livello generale di radicalità che dovremmo attenderci:

Prevenzione e cura affidabili di quasi tutte⁠⁠16 le malattie infettive naturali. Considerati gli enormi progressi compiuti contro le malattie infettive nel XX secolo, non è affatto radicale immaginare che potremmo più o meno «portare a termine il lavoro» in un XXI secolo compresso. I vaccini a mRNA e tecnologie simili indicano già la strada verso «vaccini per qualsiasi cosa». Che le malattie infettive vengano completamente sradicate dal mondo (anziché solo in alcune zone) dipende da questioni legate alla povertà e alla disuguaglianza, che vengono discusse nella Sezione 3.
Eliminazione della maggior parte dei tumori. Negli ultimi decenni i tassi di mortalità per tumore sono diminuiti di circa il 2 % all’anno; pertanto, al ritmo attuale della scienza umana siamo sulla buona strada per eliminare la maggior parte dei tumori nel corso del XXI secolo. Alcuni sottotipi sono già stati in gran parte curati (ad esempio alcuni tipi di leucemia con la terapia CAR-T), e forse mi entusiasmano ancora di più i farmaci altamente selettivi che colpiscono il tumore quando è ancora agli esordi e ne impediscono del tutto la crescita. L’IA renderà inoltre possibili regimi terapeutici finemente adattati al genoma specifico di ciascun tumore: sono già possibili oggi, ma comportano costi enormi in termini di tempo e di competenze umane, e l’IA dovrebbe consentirci di applicarli su larga scala. Sembrano possibili riduzioni del 95 % o più sia della mortalità sia dell’incidenza. Detto ciò, il cancro è estremamente vario e adattivo, ed è probabilmente la più difficile di queste malattie da sconfiggere completamente. Non sarebbe sorprendente se persistesse un assortimento di tumori maligni rari e ostici.
Prevenzione molto efficace e cure per le malattie genetiche. Un netto miglioramento dello screening embrionale consentirà probabilmente di prevenire la maggior parte delle malattie genetiche, mentre un qualche discendente più sicuro e affidabile di CRISPR potrebbe curare la maggior parte delle malattie genetiche nelle persone attualmente in vita. Tuttavia, le patologie che colpiscono l’intero organismo e interessano una grande percentuale di cellule potrebbero rappresentare gli ultimi baluardi.
Prevenzione dell’Alzheimer. Abbiamo faticato molto a capire cosa causi l’Alzheimer (è in qualche modo legato alla proteina beta-amiloide, ma i dettagli effettivi sembrano essere molto complessi). Sembra proprio il tipo di problema che può essere risolto con migliori strumenti di misurazione in grado di isolare gli effetti biologici; pertanto, sono fiducioso nella capacità dell’IA di risolverlo. Ci sono buone probabilità che, una volta compreso davvero cosa sta succedendo, possa infine essere prevenuto con interventi relativamente semplici. Detto ciò, i danni provocati da un Alzheimer già in corso potrebbero essere molto difficili da invertire.
Trattamenti migliori per la maggior parte delle altre patologie. Questa è una categoria onnicomprensiva per altre patologie, tra cui diabete, obesità, malattie cardiache, malattie autoimmuni e altro ancora. La maggior parte di queste sembra «più facile» da risolvere rispetto al cancro e all’Alzheimer e, in molti casi, la loro incidenza è già in forte calo. Ad esempio, i decessi per malattie cardiache sono già diminuiti di oltre il 50 % e interventi semplici come gli agonisti del GLP-1 hanno già fatto enormi progressi contro l’obesità e il diabete.
Libertà biologica. Gli ultimi 70 anni sono stati caratterizzati da progressi nel controllo delle nascite, nella fertilità, nella gestione del peso e in molto altro ancora. Sospetto però che la biologia accelerata dall’IA amplierà notevolmente ciò che è possibile: peso, aspetto fisico, riproduzione e altri processi biologici saranno pienamente sotto il controllo delle persone. Ci riferiremo a questi aspetti con l’espressione libertà biologica: l’idea che a chiunque debba essere data la possibilità di scegliere cosa vuole diventare e di vivere la propria vita nel modo che più lo attrae. Sorgeranno ovviamente questioni importanti riguardo all’uguaglianza globale nell’accesso; di questo si tratterà nella Sezione 3.
Raddoppio della durata della vita umana⁠⁠17. Potrebbe sembrare un’idea radicale, ma l’aspettativa di vita è quasi raddoppiata nel XX secolo (da circa 40 anni a circa 75), quindi è «in linea con la tendenza» che il «XXI secolo compresso» la raddoppi nuovamente portandola a 150 anni. Ovviamente gli interventi necessari per rallentare il processo di invecchiamento vero e proprio saranno diversi da quelli richiesti nel secolo scorso per prevenire le morti premature per malattie (soprattutto infantili), ma l’entità del cambiamento non è senza precedenti⁠⁠18. Concretamente, esistono già farmaci che aumentano la durata massima della vita nei ratti del 25-50 % con limitati effetti negativi. E alcuni animali (ad esempio alcuni tipi di tartarughe) vivono già 200 anni, quindi è evidente che gli esseri umani non abbiano raggiunto un qualche limite massimo teorico. A intuito, ciò di cui c’è più bisogno potrebbero essere biomarcatori dell’invecchiamento umano affidabili e non soggetti alla legge di Goodhart, poiché ciò consentirà una rapida iterazione su esperimenti e sperimentazioni cliniche. Una volta che la durata della vita umana avrà raggiunto i 150 anni, potremmo essere in grado di raggiungere la «velocità di fuga», guadagnando abbastanza tempo affinché la maggior parte di chi è attualmente in vita possa vivere quanto desidera, sebbene non vi sia certamente alcuna garanzia che ciò sia biologicamente possibile.

Vale la pena esaminare questo elenco e riflettere su quanto sarebbe diverso il mondo se tutto questo venisse realizzato nel giro di 7-12 anni da oggi (il che sarebbe in linea con una tempistica aggressiva per l’IA). Va da sé che si tratterebbe di un trionfo umanitario inimmaginabile, l’eliminazione in un colpo solo della maggior parte dei flagelli che hanno tormentato l’umanità per millenni. Molti dei miei amici e colleghi stanno crescendo dei figli e, quando quei bambini saranno grandi, spero che per loro qualsiasi accenno alle malattie suoni come per noi lo scorbuto, il vaiolo o la peste bubbonica. Quella generazione beneficerà anche di una maggiore libertà biologica e di espressione personale e, con un po’ di fortuna, potrebbe anche riuscire a vivere quanto vorrà.

È difficile sopravvalutare quanto questi cambiamenti risulteranno sorprendenti per tutti, tranne che per la ristretta comunità di persone che si aspettava un’IA potente. Ad esempio, migliaia di economisti ed esperti di politiche pubbliche negli Stati Uniti attualmente discutono di come mantenere solvibile la Social Security e Medicare e, più in generale, su come contenere i costi della sanità (che sono per lo più assorbiti dagli ultrasettantenni e, in particolare, dai malati terminali di cancro). La situazione di questi programmi è destinata a migliorare radicalmente se tutto questo si avvererà⁠⁠19, poiché il rapporto tra la popolazione in età lavorativa e quella in pensione cambierà drasticamente. Senza dubbio, a queste sfide ne subentreranno di nuove, come il garantire un accesso diffuso alle nuove tecnologie, ma vale la pena riflettere su quanto cambierà il mondo anche nel caso in cui la biologia fosse l’unica area a venire accelerata con successo dall’IA.

2. Neuroscienze e mente

Nella sezione precedente mi sono concentrato sulle malattie fisiche e sulla biologia in generale, e non ho trattato le neuroscienze o la salute mentale. Ma le neuroscienze sono una sottodisciplina della biologia e la salute mentale è importante quanto quella fisica. Anzi, semmai, la salute mentale influisce sul benessere umano in modo ancora più diretto rispetto alla salute fisica. Centinaia di milioni di persone hanno una qualità della vita molto bassa a causa di problemi come dipendenze, depressione, schizofrenia, autismo a basso funzionamento, disturbo da stress post-traumatico, psicopatia⁠⁠20 o disabilità intellettive. Altri miliardi di persone hanno a che fare con problemi quotidiani che spesso possono essere interpretati come versioni molto più lievi di uno di questi gravi disturbi clinici. E, come per la biologia in generale, potrebbe essere possibile andare oltre la semplice risoluzione dei problemi, fino a migliorare la qualità di base dell’esperienza umana.

Il quadro di riferimento di base che ho delineato per la biologia si applica ugualmente alle neuroscienze. Il campo è spinto da un numero limitato di scoperte spesso legate a strumenti di misurazione o di intervento preciso — nell’elenco di cui sopra, l’optogenetica è stata una scoperta delle neuroscienze, e più recentemente CLARITY e la microscopia a espansione rappresentano progressi sulla stessa linea, oltre ai numerosi metodi generali della biologia cellulare che trovano diretta applicazione nelle neuroscienze. Ritengo che il ritmo di questi progressi sarà accelerato in modo analogo dall’IA e che, pertanto, il quadro di riferimento dei «100 anni di progressi in 5-10 anni» si applichi alle neuroscienze allo stesso modo in cui si applica alla biologia e per le stesse ragioni. Come in biologia, i progressi nelle neuroscienze del XX secolo sono stati enormi: ad esempio, non capivamo nemmeno come o perché i neuroni si attivassero fino agli anni ’50. Sembra quindi ragionevole aspettarsi che le neuroscienze accelerate dall’IA producano rapidi progressi nel giro di pochi anni.

C’è però un elemento da aggiungere a questo quadro di base: alcune delle cose che abbiamo imparato (o stiamo imparando) sull’IA stessa negli ultimi anni potrebbero contribuire al progresso delle neuroscienze, anche se queste dovessero continuare a essere portate avanti solo da esseri umani. L’interpretabilità ne è un esempio lampante: sebbene i neuroni biologici operino superficialmente in modo del tutto diverso dai neuroni artificiali (comunicano tramite impulsi e spesso tramite frequenze di impulsi, perciò vi è un elemento temporale assente nei neuroni artificiali, e una serie di dettagli relativi alla fisiologia cellulare e ai neurotrasmettitori ne modifica sostanzialmente il funzionamento), la questione fondamentale di «come reti distribuite e addestrate di unità semplici che eseguono operazioni combinate lineari/non-lineari collaborino per eseguire calcoli importanti» è la stessa, e sospetto fortemente che, per la maggior parte delle questioni interessanti relative al calcolo e ai circuiti, si potrà astrarre dai dettagli della comunicazione tra i singoli neuroni⁠⁠21. Solo per citare un esempio, un meccanismo computazionale scoperto dai ricercatori che si occupano di interpretabilità nei sistemi di IA è stato recentemente riscoperto nel cervello dei topi.

È molto più facile condurre esperimenti sulle reti neurali artificiali che su quelle reali (queste ultime richiedono spesso di intervenire chirurgicamente sui cervelli animali), quindi l’interpretabilità potrebbe benissimo diventare uno strumento per migliorare la nostra comprensione delle neuroscienze. Inoltre, le IA potenti saranno probabilmente in grado di sviluppare e applicare questo strumento meglio degli esseri umani.

Al di là della semplice interpretabilità, però, ciò che abbiamo imparato dall’IA su come i sistemi intelligenti vengono addestrati dovrebbe (anche se non sono sicuro che l’abbia già fatto) provocare una rivoluzione nelle neuroscienze. Quando lavoravo nel campo delle neuroscienze, molte persone si concentravano su quelle che oggi considererei domande sbagliate riguardo all’apprendimento, perché il concetto di ipotesi di scalamento / lezione amara non esisteva ancora. L’idea che una semplice funzione obiettivo, unita a una grande quantità di dati, possa determinare comportamenti incredibilmente complessi rende più interessante comprendere le funzioni obiettivo e i bias architetturali, e meno interessante comprendere i dettagli dei calcoli emergenti. Non ho seguito da vicino il settore negli ultimi anni, ma ho la vaga sensazione che i neuroscienziati computazionali non abbiano ancora assimilato appieno la lezione. Il mio atteggiamento nei confronti dell’ipotesi di scalamento è sempre stato: «aha — questa è una spiegazione, ad alto livello, di come funziona l’intelligenza e di come si sia evoluta così facilmente», ma non credo che questa sia l’opinione del neuroscienziato medio, in parte perché l’ipotesi di scalamento come «segreto dell’intelligenza» non è pienamente accettata nemmeno all’interno del settore dell’IA.

Ritengo che i neuroscienziati dovrebbero cercare di combinare questa intuizione di base con le particolarità del cervello umano (limiti biofisici, storia evolutiva, topologia, dettagli degli input e degli output motori e sensoriali) per tentare di risolvere alcuni dei principali enigmi delle neuroscienze. Alcuni probabilmente lo stanno già facendo, ma sospetto che non sia ancora sufficiente, e credo che le IA che faranno da neuroscienziate sapranno sfruttare questa prospettiva in modo più efficace per accelerare i progressi.

Mi aspetto che l’IA acceleri i progressi neuroscientifici lungo quattro percorsi distinti, che si spera possano operare in sinergia per curare le malattie mentali e migliorare le funzionalità:

Biologia molecolare tradizionale, chimica e genetica. Si tratta essenzialmente della stessa dinamica della biologia generale descritta nella Sezione 1, e probabilmente l’IA potrà accelerarla tramite gli stessi meccanismi. Esistono molti farmaci che modulano i neurotrasmettitori per alterare la funzione cerebrale, influenzare lo stato di allerta o la percezione, modificare l’umore, ecc., e l’IA può aiutarci a inventarne molti altri. Probabilmente l’IA potrà anche accelerare la ricerca sulle basi genetiche delle malattie mentali.
Misurazione e intervento neurale ad alta risoluzione. Si tratta della capacità di misurare l’attività di molti singoli neuroni o circuiti neuronali, e di intervenire per modificarne il comportamento. L’optogenetica e le sonde neurali sono tecnologie che consentono sia di misurare sia di intervenire negli organismi viventi; inoltre, sono stati anche proposti diversi metodi molto avanzati (come i nastri molecolari per leggere i pattern di attivazione di un gran numero di singoli neuroni) che sembrano possibili in linea di principio.
Neuroscienze computazionali avanzate. Come osservato in precedenza, sia le intuizioni specifiche sia la gestalt dell’IA moderna possono probabilmente essere applicate con successo a problemi delle neuroscienze dei sistemi, arrivando forse a scoprire le vere cause e le dinamiche di malattie complesse come le psicosi o i disturbi dell’umore.
Interventi comportamentali. Non ne ho parlato molto, data l’attenzione all’aspetto biologico delle neuroscienze, ma la psichiatria e la psicologia hanno ovviamente sviluppato un ampio repertorio di interventi comportamentali nel corso del XX secolo; è logico pensare che l’IA possa accelerare anche questi, sia nello sviluppo di nuovi metodi sia nell’aiutare i pazienti a seguire quelli esistenti. Più in generale, l’idea di un «coach basato sull’IA» che ti aiuti sempre a essere la versione migliore di te stesso, che studi le tue interazioni e ti aiuti a imparare a essere più efficace, sembra molto promettente.

Immagino che questi quattro percorsi di progresso, operando in sinergia, sarebbero sulla buona strada, proprio come per le malattie fisiche, per portare alla cura o alla prevenzione della maggior parte delle malattie mentali nei prossimi 100 anni anche se l’IA non fosse coinvolta — e quindi potrebbero ragionevolmente giungere a compimento in 5-10 anni accelerati dall’IA. Concretamente, la mia ipotesi su ciò che accadrà è più o meno questa:

Probabilmente la maggior parte delle malattie mentali potrà essere curata. Non sono un esperto di malattie psichiatriche (il mio percorso nelle neuroscienze è stato dedicato alla creazione di sonde per lo studio di piccoli gruppi di neuroni), ma ritengo che malattie come il disturbo da stress post-traumatico, la depressione, la schizofrenia, la dipendenza, ecc. possano essere comprese e trattate in modo molto efficace attraverso una combinazione delle quattro direzioni sopra indicate. La risposta sarà probabilmente una combinazione tra «qualcosa è andato storto a livello biochimico» (anche se potrebbe trattarsi di un fenomeno molto complesso) e «qualcosa è andato storto nella rete neurale, a un livello superiore». Si tratta, cioè, di una questione di neuroscienze dei sistemi, sebbene ciò non smentisca l’impatto degli interventi comportamentali discussi sopra. Gli strumenti di misurazione e di intervento, specialmente sugli esseri umani vivi, sembrano destinati a portare a rapide iterazioni e progressi.
Le condizioni molto «strutturali» possono essere più difficili da affrontare, ma non impossibili. Esistono alcune prove che indicano che la psicopatia è associata a evidenti differenze neuroanatomiche: alcune regioni cerebrali sono semplicemente più piccole o meno sviluppate negli psicopatici. Si ritiene inoltre che gli psicopatici siano privi di empatia fin dalla giovane età; qualunque sia la differenza nel loro cervello, probabilmente è sempre stata così. Lo stesso potrebbe valere per alcune disabilità intellettive e forse per altre condizioni. Ristrutturare il cervello sembra difficile, ma sembra anche un’impresa in cui l’intelligenza produce elevati rendimenti. Forse esiste un modo per indurre il cervello adulto a tornare a uno stato più precoce o più plastico, in cui possa essere rimodellato. Non so bene quanto ciò sia possibile, ma il mio istinto mi porta a essere ottimista riguardo a ciò che l’IA potrà inventare in questo campo.
La prevenzione genetica efficace delle malattie mentali sembra possibile. La maggior parte delle malattie mentali è parzialmente ereditaria, e gli studi di associazione genomica stanno cominciando a fare progressi nell’identificare i fattori rilevanti, che spesso sono numerosi. Probabilmente sarà possibile prevenire la maggior parte di queste malattie tramite lo screening embrionale, analogamente a quanto avviene per le malattie fisiche. Una differenza è che le malattie psichiatriche sono più spesso poligeniche (molti geni contribuiscono), quindi, a causa della complessità, c’è un rischio maggiore di selezionare negativamente e in modo inconsapevole tratti positivi correlati alla malattia. Stranamente, però, negli ultimi anni gli studi GWAS sembrano suggerire che queste correlazioni potrebbero essere state sopravvalutate. In ogni caso, le neuroscienze accelerate dall’IA potrebbero aiutarci a fare chiarezza su questi aspetti. Naturalmente, lo screening embrionale per tratti complessi solleva una serie di questioni sociali e sarà oggetto di controversie, anche se immagino che la maggior parte delle persone sosterrebbe lo screening per malattie mentali gravi o debilitanti.
Anche i problemi quotidiani che non consideriamo malattie cliniche saranno risolti. La maggior parte di noi ha problemi psicologici quotidiani che di solito non si ritiene raggiungano il livello della malattia clinica. Alcune persone si arrabbiano facilmente, altre hanno difficoltà a concentrarsi o sono spesso assonnate, altre ancora sono timorose o ansiose, oppure reagiscono male ai cambiamenti. Oggi esistono già farmaci che favoriscono, ad esempio, la prontezza mentale o la concentrazione (caffeina, modafinil, Ritalin), ma, come in molti altri ambiti precedenti, è probabile che si aprano molte più possibilità. Probabilmente esistono molti altri farmaci di questo tipo che non sono ancora stati scoperti, e potrebbero esserci anche modalità di intervento totalmente nuove, come la stimolazione luminosa mirata (vedi optogenetica sopra) o i campi magnetici. Considerando quanti farmaci abbiamo sviluppato nel XX secolo per regolare le funzioni cognitive e lo stato emotivo, sono molto ottimista riguardo al «XXI secolo compresso», in cui tutti potranno far funzionare il proprio cervello un po’ meglio e vivere un’esperienza quotidiana più appagante.
L’esperienza umana di base può essere molto migliore. Spingendosi un passo oltre, molte persone hanno vissuto momenti straordinari di rivelazione, ispirazione creativa, compassione, appagamento, trascendenza, amore, bellezza o pace meditativa. La natura e la frequenza di queste esperienze variano notevolmente da persona a persona e nella stessa persona in momenti diversi, e talvolta possono anche essere innescate da vari farmaci (sebbene spesso con effetti collaterali). Tutto ciò suggerisce che lo «spazio di ciò che è possibile sperimentare» sia molto ampio e che una quota maggiore della vita delle persone potrebbe consistere in questi momenti straordinari. Probabilmente è anche possibile migliorare varie funzioni cognitive a tutti i livelli. Questa è forse la versione neuroscientifica della «libertà biologica» o dell’«allungamento della durata della vita».

Un argomento che ricorre spesso nelle rappresentazioni fantascientifiche dell’IA, ma che ho volutamente tralasciato qui, è il «caricamento della mente», ovvero l’idea di catturare i pattern e le dinamiche di un cervello umano e di istanziarli in un software. Questo argomento potrebbe essere oggetto di un saggio a sé stante, ma basti dire che, sebbene ritenga che il caricamento della mente sia quasi certamente possibile in linea di principio, in pratica si scontra con notevoli sfide tecnologiche e sociali, anche con un’IA potente, che probabilmente lo collocano al di fuori dell’arco temporale di 5-10 anni di cui stiamo discutendo.

In sintesi, le neuroscienze accelerate dall’IA probabilmente miglioreranno notevolmente il trattamento, o permetteranno addirittura di curare, la maggior parte delle malattie mentali, oltre ad ampliare notevolmente la «libertà cognitiva e mentale» e le capacità cognitive ed emotive dell’essere umano. Sarà un cambiamento radicale quanto i miglioramenti nella salute fisica descritti nella sezione precedente. Forse il mondo non apparirà visibilmente diverso dall’esterno, ma il mondo così come viene vissuto dagli esseri umani sarà un luogo molto migliore e più umano, e che offre maggiori opportunità di autorealizzazione. Ritengo inoltre che il miglioramento della salute mentale contribuirà ad alleviare molti altri problemi sociali, compresi quelli che sembrano di natura politica o economica.

3. Sviluppo economico e povertà

Le due sezioni precedenti riguardano lo sviluppo di nuove tecnologie in grado di curare le malattie e migliorare la qualità della vita umana. Tuttavia, una domanda ovvia, da una prospettiva umanitaria, è: «Tutti avranno accesso a queste tecnologie?»

Una cosa è sviluppare una cura per una malattia, un’altra è sradicare la malattia dal mondo. Più in generale, molti interventi sanitari esistenti non sono ancora stati applicati in ogni parte del mondo, e lo stesso vale, del resto, per i progressi tecnologici (non sanitari) in generale. Un altro modo per dirlo è che il tenore di vita in molte parti del mondo è ancora disperatamente basso: il PIL pro capite è di circa 2 000 dollari nell’Africa subsahariana rispetto ai circa 75 000 dollari negli Stati Uniti. Se l’IA dovesse aumentare ulteriormente la crescita economica e la qualità della vita nel mondo sviluppato, senza però fare molto per aiutare il mondo in via di sviluppo, dovremmo considerarlo un terribile fallimento morale e una macchia sulle autentiche vittorie umanitarie descritte nelle due sezioni precedenti. Idealmente, un’IA potente dovrebbe aiutare il mondo in via di sviluppo a raggiungere il livello del mondo sviluppato, anche mentre rivoluziona quest’ultimo.

Non sono altrettanto fiducioso sulla capacità dell’IA di affrontare le disuguaglianze e di favorire la crescita economica quanto lo sono sulla sua capacità di inventare tecnologie fondamentali, perché in campo tecnologico l’intelligenza offre rendimenti chiaramente elevati (inclusa la capacità di aggirare le complessità e la mancanza di dati), mentre l’economia comporta molti vincoli imposti dagli esseri umani, oltre a una grande dose di complessità intrinseca. Sono piuttosto scettico sul fatto che un’IA possa risolvere il famoso «problema del calcolo socialista»⁠⁠22 e non credo che i governi affideranno (o dovrebbero affidare) la loro politica economica a un’entità del genere, anche qualora fosse in grado di farlo. Ci sono inoltre problemi come quello di convincere le persone a sottoporsi a trattamenti che sono sì efficaci, ma di cui potrebbero diffidare.

Le sfide che il mondo in via di sviluppo deve affrontare sono rese ancora più complesse dalla corruzione dilagante sia nel settore privato che in quello pubblico. La corruzione crea un circolo vizioso: aggrava la povertà e la povertà, a sua volta, alimenta ulteriore corruzione. I piani per lo sviluppo economico guidati dall’IA devono fare i conti con la corruzione, le istituzioni deboli e altre sfide profondamente umane.

Ciononostante, vedo ragioni significative per essere ottimisti. Alcune malattie sono state effettivamente debellate e molti paesi sono passati dalla povertà alla ricchezza, ed è chiaro che le decisioni implicate in queste imprese presentano elevati rendimenti dell’intelligenza (nonostante i limiti umani e la complessità). Pertanto, è probabile che l’IA possa gestirle meglio di come viene fatto attualmente. Potrebbero inoltre esistere interventi mirati capaci di aggirare i limiti umani, sui quali l’IA potrebbe concentrarsi. Ma soprattutto, dobbiamo provarci. Sia le aziende di IA sia i decisori politici del mondo sviluppato dovranno fare la loro parte per garantire che i paesi in via di sviluppo non vengano esclusi; l’imperativo morale è troppo forte. Quindi, in questa sezione, continuerò a sostenere una tesi ottimistica, ma tieni sempre presente che il successo non è garantito e dipende dai nostri sforzi collettivi.

Di seguito propongo alcune ipotesi su come credo possano andare le cose nei paesi in via di sviluppo nell’arco di 5-10 anni dallo sviluppo di un’IA potente:

Distribuzione degli interventi sanitari. L’ambito in cui sono forse più ottimista è la distribuzione degli interventi sanitari in tutto il mondo. Alcune malattie sono state effettivamente debellate tramite campagne gestite dall’alto: il vaiolo è stato completamente eliminato negli anni ’70, mentre la poliomielite e la dracunculiasi sono quasi scomparse, con meno di 100 casi all’anno. I modelli epidemiologici matematicamente sofisticati svolgono un ruolo attivo nelle campagne di eradicazione delle malattie, e sembra molto probabile che ci sia margine per sistemi di IA più intelligenti degli esseri umani in grado di svolgere un lavoro migliore. Probabilmente anche la logistica della distribuzione può essere notevolmente ottimizzata. Una cosa che ho imparato in quanto donatore della prima ora di GiveWell è che alcune organizzazioni di beneficenza in ambito sanitario sono di gran lunga più efficaci di altre; la speranza è che le iniziative accelerate dall’IA possano esserlo ancora di più. Inoltre, alcuni progressi biologici semplificano notevolmente la logistica della distribuzione: ad esempio, la malaria è stata difficile da debellare perché richiede un trattamento ogni volta che si contrae la malattia; un vaccino che necessita di una sola somministrazione rende la logistica molto più semplice (e vaccini di questo tipo contro la malaria sono infatti attualmente in fase di sviluppo). Sono possibili meccanismi di distribuzione ancora più semplici: in linea di principio, alcune malattie potrebbero essere eradicate prendendo di mira i rispettivi vettori animali, ad esempio rilasciando zanzare infette da un batterio che ne blocca la capacità di trasmettere la malattia (le quali poi infettano tutte le altre zanzare), o semplicemente ricorrendo ai gene drive per sterminare le zanzare stesse. Ciò richiede una o poche azioni centralizzate, anziché una campagna coordinata per trattare singolarmente milioni di persone. Nel complesso, ritengo che 5-10 anni rappresentino un orizzonte temporale ragionevole affinché una buona percentuale (forse il 50 %) dei benefici sanitari guidati dall’IA raggiunga anche i paesi più poveri del mondo. Un buon traguardo potrebbe essere che, a 5-10 anni di distanza dall’avvento di un’IA potente, il mondo in via di sviluppo risulti almeno sostanzialmente più in salute di quanto lo sia oggi il mondo sviluppato, pur continuando a rimanere indietro rispetto a quest’ultimo. Raggiungere questo obiettivo richiederà ovviamente un enorme sforzo nel campo della salute globale, della filantropia, dell’advocacy politica e in molti altri ambiti, ai quali dovrebbero contribuire sia gli sviluppatori di IA sia i decisori politici.
Crescita economica. Il mondo in via di sviluppo può recuperare rapidamente il divario rispetto al mondo sviluppato, non solo nel campo della salute, ma a tutti i livelli economici? Esistono alcuni precedenti al riguardo: negli ultimi decenni del XX secolo, diverse economie dell’Asia orientale hanno raggiunto tassi sostenuti di crescita annua del PIL reale intorno al 10 %, riuscendo così a mettersi al passo con il mondo sviluppato. A prendere le decisioni che hanno portato a questo successo sono stati pianificatori economici umani, non controllando direttamente intere economie, bensì agendo su alcune leve chiave (come una politica industriale di crescita trainata dalle esportazioni e la resistenza alla tentazione di affidarsi alla ricchezza derivante dalle risorse naturali); è plausibile che «ministri delle finanze e banchieri centrali basati sull’IA» possano replicare o persino superare questo traguardo del 10 %. Una questione importante è come convincere i governi dei paesi in via di sviluppo ad adottarli nel rispetto del principio di autodeterminazione: alcuni potrebbero esserne entusiasti, ma altri saranno probabilmente scettici. In una prospettiva ottimistica, molti degli interventi sanitari descritti nel punto precedente aumenteranno probabilmente la crescita economica in modo organico: debellare l’AIDS, la malaria e le malattie da vermi parassiti avrebbe un effetto trasformativo sulla produttività, per non parlare dei benefici economici che alcuni degli interventi neuroscientifici (come il miglioramento dell’umore e della concentrazione) apporterebbero sia nei paesi sviluppati che in quelli in via di sviluppo. Infine, le tecnologie non sanitarie accelerate dall’IA (come le tecnologie energetiche, i droni per il trasporto, materiali da costruzione migliori, una logistica e una distribuzione più efficienti e così via) potrebbero semplicemente diffondersi nel mondo in modo naturale; ad esempio, persino i telefoni cellulari hanno rapidamente permeato l’Africa subsahariana attraverso i meccanismi di mercato, senza bisogno di sforzi filantropici. In una prospettiva più negativa, sebbene l’IA e l’automazione presentino molti potenziali benefici, esse pongono anche delle sfide per lo sviluppo economico, in particolare per i paesi che non si sono ancora industrializzati. Trovare modi per garantire che questi paesi possano comunque svilupparsi e migliorare le loro economie in un’epoca di crescente automazione rappresenta una sfida fondamentale che economisti e decisori politici dovranno affrontare. Nel complesso, uno scenario da sogno — o magari un obiettivo a cui puntare — consisterebbe in un tasso di crescita annuo del PIL del 20 % nel mondo in via di sviluppo, derivante per un 10 % dalle decisioni economiche prese con l’aiuto dell’IA e per l’altro 10 % dalla diffusione naturale di tecnologie accelerate dall’IA, tra cui quelle sanitarie. Se raggiunto, ciò porterebbe l’Africa subsahariana all’attuale PIL pro capite della Cina nel giro di 5-10 anni, elevando nel contempo gran parte del resto del mondo in via di sviluppo a livelli superiori all’attuale PIL degli Stati Uniti. Ribadisco che questo è uno scenario da sogno, non ciò che accadrà in automatico: è qualcosa per cui tutti noi dobbiamo lavorare insieme, per renderlo più probabile.
Sicurezza alimentare⁠⁠23. I progressi nella tecnologia agricola, quali fertilizzanti e pesticidi migliori, una maggiore automazione e un uso più efficiente del suolo, hanno aumentato drasticamente le rese agricole nel corso del XX secolo, salvando milioni di persone dalla fame. L’ingegneria genetica sta attualmente migliorando ulteriormente molte colture. Trovare altri modi per farlo — oltre a rendere ancora più efficienti le catene di approvvigionamento agricolo — potrebbe regalarci una seconda rivoluzione verde guidata dall’IA, contribuendo a colmare il divario tra il mondo in via di sviluppo e quello sviluppato.
Mitigazione dei cambiamenti climatici. I cambiamenti climatici si faranno sentire molto più intensamente nei paesi in via di sviluppo, ostacolandone lo sviluppo. Possiamo aspettarci che l’IA porti a miglioramenti nelle tecnologie che rallentano o prevengono i cambiamenti climatici, dalla rimozione del carbonio alle tecnologie per l’energia pulita, fino alla carne coltivata in laboratorio che riduce la nostra dipendenza dall’allevamento intensivo ad alte emissioni di carbonio. Naturalmente, come discusso in precedenza, la tecnologia non è l’unico fattore che limita i progressi in materia di cambiamenti climatici — così come per tutte le altre questioni trattate in questo saggio, i fattori sociali umani hanno importanza. Ma ci sono buoni motivi per ritenere che la ricerca potenziata dall’IA ci fornirà i mezzi per rendere la mitigazione dei cambiamenti climatici molto meno costosa e dirompente, rendendo superflue molte delle obiezioni e consentendo ai paesi in via di sviluppo di compiere maggiori progressi economici.
Disuguaglianza all’interno dei paesi. Ho parlato principalmente della disuguaglianza come fenomeno globale (che ritengo abbia un’importanza fondamentale), ma ovviamente la disuguaglianza esiste anche all’interno dei paesi. Con interventi sanitari avanzati e, in particolare, con aumenti radicali dell’aspettativa di vita o l’uso di farmaci per il potenziamento cognitivo, ci saranno certamente timori fondati che queste tecnologie siano «solo per i ricchi». Sono più ottimista riguardo alla disuguaglianza all’interno dei singoli paesi, specialmente nel mondo sviluppato, per due ragioni. In primo luogo, i mercati funzionano meglio nel mondo sviluppato e sono tipicamente efficaci nel ridurre nel tempo il costo delle tecnologie di alto valore⁠⁠24. In secondo luogo, le istituzioni politiche del mondo sviluppato sono più sensibili alle esigenze dei propri cittadini e dispongono di una maggiore capacità statale di attuare programmi di accesso universale — e mi aspetto che i cittadini richiedano l’accesso a tecnologie che migliorano in modo così radicale la qualità della vita. Naturalmente non è scontato che tali richieste abbiano successo — ed ecco un altro ambito in cui dobbiamo fare collettivamente tutto il possibile per garantire una società equa. Esiste un problema a sé stante nella disuguaglianza di ricchezza (in contrapposizione alla disuguaglianza nell’accesso alle tecnologie che salvano la vita e ne migliorano la qualità), che sembra più difficile da affrontare e di cui discuto nella Sezione 5.
Il problema dell’opt-out. Una preoccupazione comune sia nei paesi sviluppati che in quelli in via di sviluppo è che le persone rinuncino ai benefici resi possibili dall’IA (analogamente al movimento anti-vaccini o, più in generale, ai movimenti luddisti). Si potrebbero verificare circoli viziosi in cui, ad esempio, le persone meno in grado di prendere decisioni valide rinuncino proprio alle tecnologie che migliorano le loro capacità decisionali, portando a un divario sempre maggiore e creando persino una sottoclasse distopica (alcuni ricercatori hanno sostenuto che ciò minerà la democrazia, un argomento che approfondirò nella prossima sezione). Ciò getterebbe, ancora una volta, un’ombra morale sui progressi positivi dell’IA. Si tratta di un problema difficile da risolvere, poiché non ritengo eticamente accettabile costringere le persone, ma possiamo almeno cercare di aumentare la comprensione scientifica della popolazione — e forse l’IA stessa può aiutarci in questo. Un segnale di speranza è che, storicamente, i movimenti anti-tecnologici sono stati più chiacchiere che fatti: criticare aspramente la tecnologia moderna è di moda, ma alla fine la maggior parte delle persone la adotta, almeno quando si tratta di una scelta individuale. Gli individui tendono ad adottare la maggior parte delle tecnologie sanitarie e di consumo, mentre le tecnologie che incontrano ostacoli reali, come l’energia nucleare, tendono a essere oggetto di decisioni politiche collettive.

Nel complesso, sono ottimista riguardo alla possibilità di portare rapidamente i progressi biologici dell’IA alle popolazioni del mondo in via di sviluppo. Sono fiducioso, sebbene non certo, che l’IA possa anche consentire tassi di crescita economica senza precedenti e permettere al mondo in via di sviluppo di superare almeno il livello a cui si trova ora il mondo sviluppato. Sono preoccupato per il problema dell’«opt-out» sia nel mondo sviluppato che in quello in via di sviluppo, ma sospetto che si esaurirà col tempo e che l’IA possa contribuire ad accelerare questo processo. Non sarà un mondo perfetto, e chi è rimasto indietro non riuscirà a recuperare completamente il ritardo, almeno non nei primi anni. Ma con un forte impegno da parte nostra, potremmo riuscire a far andare le cose nella giusta direzione — e in fretta. Se lo faremo, potremo versare almeno un anticipo sulle promesse di dignità e uguaglianza che dobbiamo a ogni essere umano sulla Terra.

4. Pace e governance

Supponiamo che tutto nelle prime tre sezioni vada per il meglio: malattie, povertà e disuguaglianza siano significativamente ridotte e il livello di base dell’esperienza umana sia notevolmente innalzato. Ciò non significa che tutte le principali cause della sofferenza umana siano risolte. Gli esseri umani continuano a rappresentare una minaccia gli uni per gli altri*.* Sebbene vi sia una tendenza al progresso tecnologico e allo sviluppo economico che porta alla democrazia e alla pace, si tratta di una tendenza molto labile, con frequenti (e recenti) passi indietro. All’alba del XX secolo, le persone pensavano di essersi lasciate la guerra alle spalle; poi sono arrivate le due guerre mondiali. Trent’anni fa Francis Fukuyama scrisse de «La fine della storia» e del trionfo definitivo della democrazia liberale; non è ancora accaduto. Vent’anni fa i decisori politici statunitensi credevano che il libero scambio con la Cina l’avrebbe spinta a liberalizzarsi man mano che si arricchiva; non è affatto andata così, e ora sembriamo diretti verso una seconda guerra fredda con un blocco autoritario in ripresa. Inoltre, alcune teorie plausibili suggeriscono che la tecnologia di Internet possa in realtà avvantaggiare l’autoritarismo, e non la democrazia come si credeva inizialmente (ad esempio nel periodo della «primavera araba»). Sembra importante cercare di capire in che modo un’IA potente si intreccerà con queste questioni di pace, democrazia e libertà.

Purtroppo, non vedo ragioni valide per credere che l’IA promuoverà in modo preferenziale o strutturale la democrazia e la pace, nel modo in cui ritengo invece che favorirà strutturalmente la salute umana e allevierà la povertà. Il conflitto umano è antagonistico e l’IA può, in linea di principio, aiutare sia i «buoni» che i «cattivi». Semmai, alcuni fattori strutturali sembrano preoccupanti: l’IA sembra destinata a consentire una propaganda e una sorveglianza molto più efficaci, entrambi strumenti fondamentali nell’arsenale degli autocrati. Spetta quindi a noi, come singoli attori, orientare le cose nella giusta direzione: se vogliamo che l’IA favorisca la democrazia e i diritti individuali, dovremo lottare per ottenere quel risultato. Sono ancora più convinto di questo rispetto alla disuguaglianza internazionale: il trionfo della democrazia liberale e della stabilità politica non è garantito, forse non è nemmeno probabile, e richiederà grandi sacrifici e impegno da parte di tutti noi, come spesso è accaduto in passato.

Ritengo che la questione si divida in due parti: il conflitto internazionale e la struttura interna delle nazioni. Sul piano internazionale, mi sembra molto importante che le democrazie abbiano il sopravvento sulla scena mondiale quando verrà creata un’IA potente. L’autoritarismo alimentato dall’IA sembra troppo terribile da contemplare, quindi le democrazie devono essere in grado di stabilire le condizioni con cui un’IA potente verrà introdotta nel mondo, sia per evitare di essere sopraffatte dagli autoritari, sia per prevenire le violazioni dei diritti umani all’interno dei paesi autoritari.

La mia ipotesi attuale sul modo migliore per farlo è attraverso una «strategia di intesa»⁠⁠25, in cui una coalizione di democrazie cerchi di ottenere un chiaro vantaggio (anche solo temporaneo) sull’IA potente assicurandosi la relativa catena di approvvigionamento, crescendo rapidamente di scala e bloccando o ritardando l’accesso degli avversari a risorse chiave come chip e apparecchiature per semiconduttori. Da un lato, questa coalizione utilizzerebbe l’IA per ottenere una solida superiorità militare (il bastone), mentre dall’altro offrirebbe di distribuire i benefici di un’IA potente (la carota) a un gruppo sempre più ampio di paesi in cambio del sostegno alla strategia della coalizione volta a promuovere la democrazia (ciò sarebbe in qualche modo analogo a «Atomi per la pace»). La coalizione mirerebbe a ottenere il sostegno di una parte sempre più ampia del mondo, isolando i nostri peggiori avversari e mettendoli infine in una posizione in cui farebbero meglio ad accettare lo stesso accordo del resto del mondo: rinunciare a competere con le democrazie per ricevere tutti i benefici ed evitare di combattere un nemico superiore.

Se riusciremo a fare tutto questo, avremo un mondo in cui le democrazie saranno protagoniste sulla scena mondiale e disporranno della forza economica e militare necessaria per evitare di essere minate, conquistate o sabotate dalle autocrazie, e potrebbero essere in grado di trasformare la loro superiorità nell’IA in un vantaggio duraturo. Ciò potrebbe, in una prospettiva ottimistica, portare a un «eterno 1991» — un mondo in cui le democrazie hanno il sopravvento e i sogni di Fukuyama si realizzano. Ancora una volta, questo sarà molto difficile da realizzare e richiederà, in particolare, una stretta cooperazione tra le aziende private di IA e i governi democratici, oltre a decisioni straordinariamente sagge sull’equilibrio tra carota e bastone.

Anche se tutto andasse per il meglio, rimarrebbe la questione della lotta tra democrazia e autocrazia all’interno di ciascun paese. È ovviamente difficile prevedere cosa accadrà in questo ambito, ma nutro un certo ottimismo sul fatto che, dato un contesto globale in cui le democrazie controllano l’IA più potente, allora l’IA potrebbe effettivamente favorire strutturalmente la democrazia ovunque. In particolare, in questo contesto i governi democratici possono utilizzare la loro IA superiore per vincere la guerra dell’informazione: possono contrastare le operazioni di influenza e propaganda delle autocrazie e potrebbero persino riuscire a creare un ambiente informativo libero a livello globale, fornendo canali di informazione e servizi di IA in un modo tale che le autocrazie non abbiano la capacità tecnica di bloccarli o monitorarli. Probabilmente non è necessario diffondere propaganda, ma solo contrastare gli attacchi malevoli e sbloccare il libero flusso di informazioni. Sebbene non sia un processo immediato, una situazione di parità come questa ha buone possibilità di orientare gradualmente la governance globale verso la democrazia, per diversi motivi.

In primo luogo, il miglioramento della qualità della vita descritto nelle Sezioni 1-3 dovrebbe, a parità di condizioni, promuovere la democrazia: storicamente è stato così, almeno in una certa misura. In particolare, mi aspetto che i miglioramenti nella salute mentale, nel benessere e nell’istruzione rafforzino la democrazia, poiché tutti e tre sono negativamente correlati con il sostegno ai leader autoritari. In generale, le persone desiderano una maggiore libertà di espressione quando i loro altri bisogni sono soddisfatti, e la democrazia è, tra le altre cose, una forma di espressione di sé. Al contrario, l’autoritarismo prospera sulla paura e sul risentimento.

In secondo luogo, c’è una buona probabilità che la libera informazione minacci davvero l’autoritarismo, purché gli autoritari non possano censurarla. E un’IA non censurata può anche fornire agli individui potenti strumenti per minare i governi repressivi. I governi repressivi sopravvivono negando alle persone un certo tipo di conoscenza comune, impedendo loro di rendersi conto che «il re è nudo». Ad esempio Srđa Popović, che ha contribuito a rovesciare il governo di Milošević in Serbia, ha scritto ampiamente sulle tecniche per privare psicologicamente gli autoritari del loro potere, per rompere l’incantesimo e mobilitare il sostegno contro un dittatore. Un Popović in versione IA, di efficacia superumana (le cui competenze sembrano avere elevati rendimenti dell’intelligenza), nelle tasche di tutti e impossibile da bloccare o censurare per i dittatori, potrebbe dare vento in poppa ai dissidenti e ai riformatori di tutto il mondo. Per ribadirlo, questa sarà una lotta lunga e protratta, in cui la vittoria non è assicurata, ma se progettiamo e costruiamo l’IA nel modo giusto, potrebbe almeno essere una lotta in cui i sostenitori della libertà ovunque abbiano un vantaggio.

Come per le neuroscienze e la biologia, possiamo anche chiederci come le cose potrebbero essere «migliori del normale» — non solo come evitare l’autocrazia, ma come rendere le democrazie migliori di quanto non siano oggi. Anche all’interno delle democrazie, le ingiustizie avvengono continuamente. Le società basate sullo Stato di diritto promettono ai propri cittadini che tutti saranno uguali davanti alla legge e che a tutti spettano i diritti umani fondamentali, ma ovviamente nella pratica le persone non sempre godono di tali diritti. Il fatto che questa promessa venga mantenuta anche solo in parte è motivo di orgoglio, ma l’IA può aiutarci a fare di meglio?

Ad esempio, l’IA potrebbe migliorare il nostro sistema giuridico e giudiziario rendendo le decisioni e i processi più imparziali? Oggi, nei contesti legali o giudiziari, la preoccupazione principale è che i sistemi di IA possano essere una causa di discriminazione, e queste preoccupazioni sono importanti e richiedono adeguate contromisure. Allo stesso tempo, la vitalità della democrazia dipende dal saper sfruttare le nuove tecnologie per migliorare le istituzioni democratiche, non solo dal reagire ai rischi. Un’implementazione dell’IA veramente matura e di successo ha il potenziale di ridurre i pregiudizi e di essere più equa per tutti.

Per secoli, i sistemi giuridici hanno affrontato il dilemma per cui la legge mira a essere imparziale, ma è intrinsecamente soggettiva e deve quindi essere interpretata da esseri umani soggetti a pregiudizi. Il tentativo di rendere la legge completamente meccanica non ha funzionato perché il mondo reale è complesso e non può sempre essere racchiuso in formule matematiche. I sistemi giuridici si basano invece su criteri notoriamente imprecisi come «punizione crudele e inusuale» o «del tutto priva di importanza sociale», che gli esseri umani poi interpretano — e spesso lo fanno in modo tale da mostrare pregiudizi, favoritismi o arbitrarietà. Gli «smart contract» nelle criptovalute non hanno rivoluzionato il diritto perché il codice ordinario non è abbastanza intelligente da giudicare un gran numero di questioni rilevanti. Ma l’IA potrebbe esserlo: è la prima tecnologia in grado di formulare giudizi ampi e sfumati in modo ripetibile e meccanico.

Non sto suggerendo di sostituire letteralmente i giudici con sistemi di IA, ma la combinazione di imparzialità e capacità di comprendere ed elaborare situazioni complesse del mondo reale sembra poter avere alcune importanti applicazioni positive nel campo del diritto e della giustizia. Come minimo, tali sistemi potrebbero affiancare gli esseri umani come ausilio al processo decisionale. La trasparenza sarebbe fondamentale in qualsiasi sistema di questo tipo, e una scienza dell’IA matura potrebbe plausibilmente garantirla: il processo di addestramento di tali sistemi potrebbe essere studiato in modo approfondito e si potrebbero usare tecniche avanzate di interpretabilità per guardare all’interno del modello finale e valutarne eventuali pregiudizi nascosti, in un modo che con gli esseri umani è semplicemente impossibile. Tali strumenti di IA potrebbero essere utilizzati anche per monitorare le violazioni dei diritti fondamentali in ambito giudiziario o di polizia, rendendo le costituzioni più autoapplicabili.

Sulla stessa linea, l’IA potrebbe essere utilizzata per aggregare le opinioni e favorire il consenso tra i cittadini, risolvendo i conflitti, trovando un terreno comune e cercando compromessi. Alcune prime iniziative in questa direzione sono state intraprese dal Computational Democracy Project, incluse collaborazioni con Anthropic. Una cittadinanza più informata e consapevole rafforzerebbe ovviamente le istituzioni democratiche.

Esiste inoltre una chiara opportunità di utilizzare l’IA per aiutare a erogare i servizi pubblici — come le prestazioni sanitarie o l’assistenza sociale — che in linea di principio sono accessibili a tutti ma che, nella pratica, spesso sono gravemente carenti, e in alcuni luoghi decisamente peggiori che in altri. Ciò include i servizi sanitari, la motorizzazione civile, le imposte, la previdenza sociale, l’applicazione delle norme edilizie e così via. Disporre di un’IA molto attenta e informata, il cui compito sia quello di fornirti in modo comprensibile tutto ciò a cui hai legalmente diritto da parte dello Stato — e che ti aiuti anche a rispettare le regole spesso confuse della pubblica amministrazione — sarebbe di enorme importanza. Aumentare l’efficienza dello Stato contribuisce sia a mantenere la promessa di uguaglianza davanti alla legge, sia a rafforzare il rispetto per la governance democratica. Servizi pubblici mal implementati sono attualmente uno dei principali motori del cinismo nei confronti dello Stato⁠⁠26.

Tutte queste sono idee piuttosto vaghe e, come ho detto all’inizio di questa sezione, non sono affatto così fiducioso nella loro fattibilità quanto lo sono nei progressi della biologia e delle neuroscienze e nella lotta alla povertà. Potrebbero essere utopie irrealistiche. Ma l’importante è avere una visione ambiziosa, essere disposti a sognare in grande e a sperimentare. La visione dell’IA come garante della libertà, dei diritti individuali e dell’uguaglianza davanti alla legge è troppo potente per non lottare per realizzarla. Una società del XXI secolo potenziata dall’IA potrebbe essere sia una più forte protettrice della libertà individuale, sia un faro di speranza che contribuisca a rendere la democrazia liberale la forma di governo che il mondo intero desidera adottare.

5. Lavoro e significato

Anche se tutto nelle quattro sezioni precedenti andasse per il meglio — non solo alleviassimo malattie, povertà e disuguaglianza, ma la democrazia liberale diventasse la forma di governo dominante e le democrazie liberali esistenti diventassero versioni migliori di se stesse — rimarrebbe comunque almeno una domanda importante. «È fantastico vivere in un mondo tecnologicamente avanzato oltre che equo e dignitoso», potrebbe obiettare qualcuno, «ma con le IA che fanno tutto, come potranno gli esseri umani trovare un senso alla propria vita? E, del resto, come sopravviveranno economicamente?».

Penso che questa domanda sia più difficile delle altre. Non intendo dire che io sia necessariamente più pessimista al riguardo rispetto alle altre questioni (anche se ne intravedo le difficoltà). Intendo dire che è più sfuggente e difficile da prevedere in anticipo, perché riguarda questioni macroscopiche relative all’organizzazione della società che tendono a risolversi solo col tempo e in modo decentralizzato. Ad esempio, le società storiche di cacciatori-raccoglitori avrebbero potuto immaginare che la vita fosse priva di senso senza la caccia e i vari rituali religiosi ad essa legati, e avrebbero ritenuto che la nostra società tecnologica, ben nutrita, fosse priva di scopo. Potrebbero anche non aver compreso come la nostra economia possa provvedere a tutti, o quale funzione le persone possano svolgere utilmente in una società meccanizzata.

Ciononostante, vale la pena spendere almeno qualche parola, tenendo presente che la brevità di questa sezione non deve affatto essere interpretata come un segno che io non prenda sul serio questi problemi: al contrario, è il segno di una mancanza di risposte chiare.

Riguardo al tema del significato, penso che sia molto probabilmente un errore credere che le attività che si intraprendono siano prive di senso semplicemente perché un’IA potrebbe svolgerle meglio. La maggior parte delle persone non è la migliore al mondo in niente, e la cosa non sembra infastidirle più di tanto. Naturalmente oggi possono ancora contribuire attraverso il vantaggio comparativo, e possono trarre un senso dal valore economico che producono, ma le persone traggono anche grande piacere da attività che non producono alcun valore economico. Passo molto tempo a giocare ai videogiochi, a nuotare, a passeggiare all’aperto e a chiacchierare con gli amici, tutte attività che generano zero valore economico. Potrei trascorrere una giornata cercando di migliorare in un videogioco, o di scalare più velocemente una salita in bicicletta, e non mi importa davvero che da qualche parte ci sia qualcuno molto più bravo in queste cose. In ogni caso, penso che il senso derivi principalmente dalle relazioni e dai legami umani, non dal lavoro economico. Le persone desiderano un senso di realizzazione, e persino di competizione, e in un mondo post-IA sarà perfettamente possibile dedicare anni al tentativo di portare a termine un’attività molto difficile con una strategia complessa, in modo simile a quanto fanno oggi le persone quando intraprendono progetti di ricerca, cercano di diventare attori di Hollywood o fondano aziende⁠⁠27. Il fatto che (a) un’IA da qualche parte potrebbe, in linea di principio, svolgere questa attività meglio, e (b) questa attività non sia più un elemento economicamente remunerato dell’economia globale, non mi sembra avere molta importanza.

L’aspetto economico mi sembra in realtà più difficile di quello del significato. Con «economico» in questa sezione intendo il possibile problema che la maggior parte o tutti gli esseri umani potrebbero non essere in grado di contribuire in modo significativo a un’economia guidata da un’IA sufficientemente avanzata. Si tratta di una questione più generale rispetto al problema specifico della disuguaglianza, soprattutto la disuguaglianza nell’accesso alle nuove tecnologie, di cui ho parlato nella Sezione 3.

Innanzitutto, nel breve termine concordo con le argomentazioni secondo cui il vantaggio comparativo continuerà a mantenere gli esseri umani rilevanti e, di fatto, ad aumentare la loro produttività, e potrebbe persino, in qualche modo, livellare il campo di gioco tra gli esseri umani. Finché l’IA sarà migliore solo nel 90 % di un determinato lavoro, il restante 10 % farà sì che gli esseri umani acquisiscano un grande effetto leva, aumentando la retribuzione e creando di fatto una serie di nuovi posti di lavoro umani che integrino e amplifichino ciò in cui l’IA eccelle, in modo tale che quel «10 %» si espanda fino a continuare a dare lavoro a quasi tutti. Infatti, anche se l’IA fosse in grado di svolgere il 100 % delle attività meglio degli esseri umani ma rimanesse inefficiente o costosa in alcuni compiti, oppure se gli input di risorse per gli esseri umani e per le IA fossero significativamente diversi, allora la logica del vantaggio comparativo continuerebbe ad applicarsi. Un ambito in cui è probabile che gli esseri umani mantengano un vantaggio relativo (o persino assoluto) per un tempo considerevole è il mondo fisico. Ritengo quindi che l’economia umana possa continuare ad avere senso anche un po’ oltre il punto in cui raggiungeremo il «paese di geni in un centro di calcolo».

Tuttavia, ritengo che nel lungo periodo l’IA diventerà così ampiamente efficace e così economica che ciò non sarà più vero. A quel punto il nostro attuale assetto economico non avrà più senso, e ci sarà bisogno di un dibattito sociale più ampio su come l’economia dovrebbe essere organizzata.

Sebbene possa sembrare folle, il fatto è che in passato la civiltà ha saputo affrontare con successo grandi cambiamenti economici: dalla caccia e dalla raccolta all’agricoltura, dall’agricoltura al feudalesimo e dal feudalesimo all’industrialismo. Sospetto che sarà necessario qualcosa di nuovo e ancora più insolito, e che si tratti di qualcosa che oggi nessuno è riuscito a immaginare adeguatamente. Potrebbe essere semplice come un generoso reddito minimo universale, anche se sospetto che ciò costituirà solo una piccola parte della soluzione. Potrebbe trattarsi di un’economia capitalista basata su sistemi di IA, che distribuiscano risorse (in quantità enormi, dato che la torta economica complessiva sarà gigantesca) agli esseri umani in base a un’economia secondaria, secondo cui i sistemi di IA decidono cosa sia sensato premiare nelle persone (in base a un giudizio derivante, in ultima analisi, dai valori umani). Forse l’economia funzionerà grazie ai punti Whuffie. Oppure, forse, gli esseri umani continueranno dopotutto ad avere un valore economico, in un modo non previsto dai modelli economici tradizionali. Tutte queste soluzioni presentano innumerevoli problemi potenziali, e non è possibile sapere se avranno senso senza numerose iterazioni e sperimentazioni. E, come per alcune delle altre sfide, probabilmente dovremo lottare per ottenere un buon risultato anche in questo caso: sono chiaramente possibili anche sviluppi basati sullo sfruttamento o distopici, che devono essere impediti. Si potrebbe scrivere molto di più su queste questioni e spero di farlo in un secondo momento.

Bilancio

Attraverso i vari argomenti sopra esposti, ho cercato di delineare una visione di un mondo che sia al contempo plausibile se tutto andrà per il verso giusto con l’IA e molto migliore del mondo odierno. Non so se questo mondo sia realistico e, anche se lo fosse, non potrà essere realizzato senza un enorme sforzo e una lotta da parte di molte persone coraggiose e dedite alla causa. Tutti (comprese le aziende che si occupano di IA!) dovranno fare la propria parte sia per prevenire i rischi sia per realizzare appieno i benefici.

Ma è un mondo per cui vale la pena lottare. Se tutto questo dovesse davvero accadere nell’arco di 5-10 anni — la sconfitta della maggior parte delle malattie, la crescita della libertà biologica e cognitiva, l’uscita dalla povertà di miliardi di persone per poter beneficiare delle nuove tecnologie, una rinascita della democrazia liberale e dei diritti umani — sospetto che chiunque ne sarà testimone rimarrà sorpreso dall’effetto che avrà su di lui. Non mi riferisco all’esperienza di trarre beneficio personalmente da tutte le nuove tecnologie, anche se ciò sarà certamente straordinario. Mi riferisco all’esperienza di vedere una serie di ideali a lungo coltivati realizzarsi tutti in una volta, davanti ai nostri occhi. Penso che molti ne saranno letteralmente commossi fino alle lacrime.

Nel corso della stesura di questo saggio ho notato una tensione interessante. In un certo senso la visione qui delineata è estremamente radicale: non è ciò che quasi tutti si aspettano che accada nel prossimo decennio, e probabilmente apparirà a molti come una fantasia assurda. Alcuni potrebbero persino non considerarla auspicabile; essa incarna valori e scelte politiche con cui non tutti saranno d’accordo. Ma allo stesso tempo c’è qualcosa di assolutamente ovvio — qualcosa di sovradeterminato — in essa, come se molti tentativi diversi di immaginare un mondo migliore conducessero inevitabilmente più o meno a questo.

In The Player of Games⁠⁠28 di Iain M. Banks, il protagonista — membro di una società chiamata «la Cultura», fondata su principi non dissimili da quelli che ho esposto qui — si reca in un impero repressivo e militarista in cui la leadership è determinata dalla competizione in un intricato gioco di battaglia. Il gioco, tuttavia, è talmente complesso che la strategia di un giocatore al suo interno tende a rifletterne la visione politica e filosofica. Il protagonista riesce a sconfiggere l’imperatore nel gioco, dimostrando che i suoi valori (i valori della Cultura) rappresentano una strategia vincente anche in un gioco ideato da una società fondata sulla competizione spietata e sulla sopravvivenza del più forte. Un noto post di Scott Alexander sostiene la stessa tesi: che la competizione sia controproducente e tenda a portare a una società basata sulla compassione e sulla cooperazione. L’«arco dell’universo morale» è un altro concetto simile.

Ritengo che i valori della Cultura siano una strategia vincente perché sono la somma di un milione di piccole decisioni che hanno una chiara forza morale e che tendono a unire tutti dalla stessa parte. Le intuizioni umane fondamentali di equità, cooperazione, curiosità e autonomia sono difficili da contestare e sono cumulative in un modo in cui spesso i nostri impulsi più distruttivi non lo sono. È facile sostenere che i bambini non dovrebbero morire di malattie se possiamo prevenirle, e da lì è facile sostenere che i figli di tutti meritino questo diritto in egual misura. A quel punto non è difficile sostenere che dovremmo tutti unirci e mettere a frutto il nostro intelletto per raggiungere questo risultato. Pochi sono in disaccordo sul fatto che le persone debbano essere punite per aver aggredito o ferito gli altri inutilmente, e da lì il passo verso l’idea che le punizioni debbano essere coerenti e sistematiche per tutti non è poi così lungo. È altrettanto intuitivo che le persone debbano avere autonomia e responsabilità sulle proprie vite e sulle proprie scelte. Queste semplici intuizioni, se portate alla loro logica conclusione, conducono infine allo Stato di diritto, alla democrazia e ai valori dell’Illuminismo. Se non in modo inevitabile, perlomeno come tendenza statistica, questa è la direzione verso cui l’umanità era già incamminata. L’IA offre semplicemente l’opportunità di arrivarci più rapidamente — di rendere la logica più netta e la destinazione più chiara.

Eppure è qualcosa di una bellezza trascendente. Abbiamo l’opportunità di svolgere un piccolo ruolo nel renderlo realtà.

Grazie a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe e a molte persone di Anthropic per aver revisionato le bozze di questo saggio.

Ai vincitori del Premio Nobel per la Chimica 2024, per averci indicato la strada.

Pubblicazione originale: Dario Amodei (2024) Machines of Loving Grace, Dario Amodei’s Blog, ottobre.

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28