Linee temporali generali
Nessuno sa quando l’IA inizierà ad avere un impatto trasformativo sul mondo. Non se ne è sicuri e non lo si dovrebbe essere: semplicemente non ci sono prove sufficienti per stabilirlo con certezza.
Ma non c’è bisogno di aspettare la certezza. Voglio esplorare cosa succede se prendiamo sul serio la nostra incertezza — se agiamo con umiltà epistemica. Come si presenta una pianificazione saggia in un mondo in cui le tempistiche di sviluppo dell’IA sono profondamente incerte?
Concluderò che prendere sul serio l’incertezza ha implicazioni concrete su come si possa contribuire a far sì che questa transizione verso l’IA vada a buon fine. E ha implicazioni ancora maggiori sul modo in cui agiamo insieme — sul nostro portafoglio di attività mirate a questo scopo.
Tempistiche di sviluppo dell’IA
Con tempistiche di sviluppo dell’IA mi riferisco a quanto tempo ci vorrà prima che l’IA abbia effetti veramente trasformativi sul mondo. Spesso le persone riflettono su questo concetto utilizzando termini come intelligenza artificiale generale (IAG), IA di livello umano, IA trasformativa o superintelligenza. Ogni termine viene utilizzato in modo diverso da persone diverse, cosa che rende difficile confrontare le tempistiche da loro indicate. In effetti, persino la definizione che un individuo dà del suo termine preferito risulterà in qualche modo vaga, al punto che, anche dopo che la relativa soglia è stata superata, potrebbe avere difficoltà a specificare in quale anno ciò sia avvenuto.
Molti commentatori hanno suggerito che ciò renda inutili termini come IAG, ma non credo sia corretto.
Mi piace ragionare in questi termini: immaginate un gruppo di escursionisti che scorge in lontananza una montagna che si innalza fino alle nuvole e oltre, con la cima innevata che cattura la luce del sole. Parlano animatamente di quanto sarebbe fantastico salire così in alto da trovarsi all’interno di una nuvola. Oppure si immaginano già sopra le nuvole, a guardarle dall’alto come angeli. Dopo molte ore di scalata, notano una leggera foschia. Sono dentro la nuvola adesso? La nebbia si fa gradualmente più fitta finché riescono a vedere solo a 10 metri di distanza. Ci sono dentro adesso? Poi la visibilità scende a 9 metri. Poi a 8. Poi ricomincia ad aumentare. Dopo un’ora c’è solo una leggerissima foschia. Sono sopra le nuvole adesso? Passano altri 30 minuti e la foschia sparisce del tutto: ora possono tutti concordare di essere al di sopra delle nuvole.
È chiaro che a un certo punto si trovavano all’interno della nuvola e, qualche tempo dopo, al di sopra di essa. Ed è chiaro che si trattava di concetti sensati e utili. Ad esempio, a causa della scarsa visibilità, hanno preso precauzioni come procedere in cordata per attraversare la nuvola, e hanno portato con sé delle macchine fotografiche perché sapevano di poter scattare bellissime foto al di sopra di essa. L’assenza di confini netti non rende inutili questi concetti. Bisogna però ammettere che si sono rivelati molto più utili quando gli escursionisti erano a terra a pianificare il percorso, e molto meno nelle incerte zone di confine.
Penso all’IAG (e all’intelligenza di livello umano) come alla nuvola, e alla superintelligenza come a qualcosa che si trova sopra la nuvola. Sono concetti utili, nonostante il loro carattere vago. Ma sono nettamente meno utili quando ci si avvicina ad essi.
Quindi penso che abbia senso fare previsioni su quando raggiungeremo una soglia per un’IA avanzata e rivoluzionaria. Tuttavia, essendoci una certa incertezza intrinseca dovuta al carattere vago delle idee, dobbiamo fare attenzione quando confrontiamo le nostre stime per assicurarci di parlare della stessa versione di questi concetti.
Per quanto riguarda l’IAG, la situazione sta già diventando un po’ nebulosa. A febbraio è stato pubblicato un articolo su Nature in cui si sosteneva che l’attuale livello di IA di frontiera dovrebbe essere considerato IAG. Io fisserei l’asticella un po’ più in alto, ma concordo sul fatto che sia già discutibile se ci troviamo o meno nella nuvola.
Per i miei scopi, ritengo che la soglia chiave sia quando il sistema diventa sufficientemente potente da provocare cambiamenti drastici nel mondo — cambiamenti a livello di civiltà. Ad esempio, il punto in cui l’IA potrebbe prendere il controllo sull’umanità qualora fosse disallineata, o rendere il 50 % delle persone permanentemente inoccupabili, o raddoppiare il tasso globale di progresso tecnologico. Qualcosa del genere. Il motivo per cui scelgo questo punto è che ritengo sia quello che conta di più per una pianificazione delle nostre strategie e carriere che risulti rilevante ai fini decisionali. Per molti scopi vorremmo che i nostri piani dessero i loro frutti prima di raggiungere tale punto, e i piani che si concretizzano in seguito rischiano di essere stravolti in modo significativo. Mi riferirò a questa come IA trasformativa e mi assicurerò di indicare quali criteri utilizzano gli altri quando forniscono le proprie stime sulle tempistiche.
Tempistiche brevi vs lunghe
Le discussioni sulle tempistiche vengono solitamente inquadrate come un dibattito tra tempistiche brevi vs tempistiche lunghe.
Uno dei principali sostenitori delle tempistiche di sviluppo molto brevi è Dario Amodei, amministratore delegato di Anthropic. Nel gennaio 2025 ha dichiarato:
Realizzare un’IA più intelligente di quasi tutti gli esseri umani in quasi ogni ambito richiederà milioni di chip, decine di miliardi di dollari (almeno) e molto probabilmente avverrà nel 2026-2027.
Un mese dopo, ha chiarito:
Probabilmente entro il 2026 o il 2027 (e quasi certamente non oltre il 2030), il modo migliore di concepire le capacità dei sistemi di IA sarà immaginarle simili a uno Stato completamente nuovo, popolato da persone altamente intelligenti, che fa la sua comparsa sulla scena globale — un “paese di geni in un centro di calcolo” — con le profonde implicazioni economiche, sociali e di sicurezza che ciò comporterebbe.
All’estremo opposto, un buon esempio di tempistiche lunghe è rappresentato da Ege Erdil, cofondatore di Epoch AI, la cui stima mediana per la “piena automazione del lavoro da remoto” è il 2045 — tra 20 anni.
Sebbene gli esperti continuino a non essere d’accordo su quando l’IA inizierà ad avere impatti trasformativi, chiaramente non stanno ignorando ostinatamente le prove. Infatti, come ha spiegato Helen Toner nel suo ottimo saggio “Le tempistiche lunghe per l’IA avanzata sono diventate incredibilmente brevi”, prima di ChatGPT parlare di tempistiche brevi significava qualcosa come: “dai 10 ai 20 anni, quindi, dato che prepararci potrebbe richiedere molto tempo, dovremmo iniziare ora”. Tempistiche lunghe significava: “non c’è alcun segno che l’IAG si realizzerà nei prossimi 30 anni, ammesso che si realizzi in questo secolo, quindi è prematuro fare qualsiasi lavoro relativo al controllo dell’IA avanzata”. Ora, invece, vediamo tempistiche brevi come quella di Dario Amodei, secondo cui un’IA di livello geniale è “quasi certa” entro i prossimi 5 anni, e molti convinti sostenitori delle tempistiche lunghe oggi affermano che raggiungeremo l’IA di livello umano in soli 10 o 20 anni.
Ecco un bel grafico realizzato da 80,000 Hours che mostra come il tempo medio previsto fino all’arrivo dell’IAG, secondo le previsioni sulla piattaforma Metaculus, si sia ridotto da circa 50 anni a circa 5 anni nell’arco di soli cinque anni:
Tempistiche generali
Quindi, tutti stanno aggiornando le proprie previsioni sulla base delle prove e accorciando le tempistiche, eppure permane un sostanziale disaccordo.
Questo viene spesso inquadrato come un dibattito: l’idea è che dovremmo cercare di valutare chi ha ragione — se le tempistiche siano davvero brevi o lunghe (o medie). La gente sceglie i vincitori, si schiera da una parte o dall’altra, e lo rinfaccia ogni volta che le prove più recenti favoriscono il loro schieramento preferito.
La mia tesi centrale di oggi è che, per la maggior parte di noi, questa è la prospettiva sbagliata. Non dovreste avere né tempistiche brevi né tempistiche lunghe, bensì tempistiche ampie. Cioè:
La risposta epistemica corretta al persistente disaccordo tra gli esperti è quella di avere un’ampia distribuzione sulle tempistiche di sviluppo dell’IA.
In primo luogo, c’è troppo disaccordo tra persone molto intelligenti e informate perché sia ragionevole avere un intervallo ristretto di anni possibili. Per averlo, sarebbe necessario che attribuiste pochissime probabilità al fatto che alcuni dei vostri pari epistemici vedano le cose più chiaramente di voi, quando in realtà ciò accade la metà delle volte. Inoltre, molte di queste persone provengono da campi diversi, portando con sé diverse intuizioni, prove ed euristiche collaudate nel tempo che nessun singolo individuo è in una buona posizione per giudicare.
E in secondo luogo, molte di queste persone hanno esse stesse un’ampia distribuzione sulle tempistiche di sviluppo dell’IA. Prendiamo ad esempio Daniel Kokotajlo. È uno degli autori di AI 2027 ed è noto come figura di spicco tra i sostenitori delle tempistiche di sviluppo dell’IA brevi. Qualche anno fa, la sua data mediana per i sistemi di IA “in grado di sostituire il 99 % degli attuali lavori completamente da remoto” era il 2027, da cui il nome dello scenario. Tuttavia, le sue tempistiche si sono leggermente allungate e, al momento della stesura, il 2027 era diventato più uno scenario iniziale illustrativo che non il punto con il 50 % di probabilità di realizzarsi.
Kokotajlo ha fatto un ottimo lavoro nell’essere estremamente trasparente sulle sue tempistiche di sviluppo dell’IA, mostrando le sue previsioni (insieme al loro grado di incertezza) per una varietà di diversi livelli di IA potente. Ecco la sua attuale distribuzione di probabilità relativa al momento in cui avremo un sistema di IA che sia “almeno all’altezza dei migliori esperti umani praticamente in tutti i compiti cognitivi”:
La sua distribuzione ha il picco (la moda) nel 2028, ma poiché è fortemente asimmetrica verso destra, c’è solo il 27 % di probabilità che ciò accada entro quel momento. Il suo anno mediano è il 2030. E il suo intervallo all’80 % (dal 10° al 90° percentile) va dal 2027 a un momento successivo al 2050.
Si tratta di una distribuzione ampia. Penso che l’intervallo all’80 % indicato da qualcuno sia un buon modo per esprimere l’arco temporale che ritiene credibile. Qui Kokotajlo afferma che l’evento si verificherà probabilmente tra 1 e 25 anni a partire da oggi, ma che c’è una probabilità su cinque che non rientri nemmeno in questo ampio intervallo.
Non è l’unico ad avere una distribuzione così ampia. Ecco le previsioni di Daniel Kokotajlo, Ajeya Cotra ed Ege Erdil del 2023, formulate in risposta alla domanda: “In quale anno i sistemi di IA saranno in grado di sostituire il 99 % degli attuali lavori svolti interamente da remoto?”:
Si noti che tutte e tre hanno lo stesso tipo di forma, solo allungata in modo diverso. E, nonostante le loro mediane molto diverse, in realtà si sovrappongono notevolmente (come mette in risalto questa ombreggiatura trasparente). Questo dimostra sia che ogni esperto ha una distribuzione ampia, sia che la comunità degli esperti nel suo complesso ne ha una ancora più ampia. In effetti, penso che si potrebbe fare molto di peggio che prendere semplicemente un modello misto delle opinioni di questi tre esperti. È interessante notare che, dal 2023, la distribuzione di Kokotajlo si è spostata verso destra e quella di Erdil verso sinistra.
Ecco una distribuzione illustrativa delle tempistiche di sviluppo dell’IAG utilizzata da Ben Todd di 80,000 Hours:
Dwarkesh Patel l’ha riprodotto nel suo post sulle tempistiche di sviluppo dell’IA, affermando che rappresenta abbastanza fedelmente la sua incertezza e indicando il 2032 come data mediana per un’IA in grado di “imparare sul campo con la stessa facilità, naturalezza, fluidità e rapidità di un essere umano, per qualsiasi lavoro da ufficio”.
Ecco la stima attuale della comunità di Metaculus su quando verrà sviluppata l’IAG. Sintetizzando l’incertezza collettiva della comunità, si rivela molto ampia e presenta questa stessa forma caratteristica:
Ecco la sintesi delle stime principali di Epoch AI sulle tempistiche di sviluppo dell’IA del 2023:
Queste appaiono leggermente diverse poiché sono rappresentate come probabilità cumulative di raggiungere l’IA trasformativa entro un determinato momento. Tuttavia, sono tutte molto ampie. Osservate l’intervallo di anni tra il momento in cui superano il 10 % e quello in cui superano il 90 %. Ognuna di esse ha un intervallo dell’80 % ampio almeno 50 anni.
E i ricercatori che lavorano sulle capacità dell’IA? Grace et al hanno intervistato migliaia di ricercatori nel campo dell’IA che presentavano i loro lavori alle principali conferenze accademiche. Li hanno intervistati nel 2022 (blu) e nel 2023 (rosso) chiedendo quando “le macchine senza assistenza potranno svolgere ogni compito meglio e a un costo inferiore rispetto ai lavoratori umani”:
Si può notare la forte variazione nelle previsioni individuali (le linee sottili) e che le tempistiche si sono accorciate di circa il 30 % in un solo anno. Permane tuttavia un’enorme incertezza. Le previsioni aggregate della comunità (le linee spesse) presentano intervalli dell’80 % che vanno da anni a secoli.
Penso che tutti dovrebbero avere una distribuzione che abbia all’incirca questa forma. Ecco la mia:
Riguarda l’IA trasformativa, definita in senso lato come un’IA che sarebbe abbastanza potente da prendere il controllo del mondo se fosse disallineata, e che raddoppia il ritmo del progresso scientifico e tecnologico. Ha una forma simile a quella di Kokotajlo, ma più ampia, con una mediana al 2038 e un intervallo dell’80 % che va da 3 a 100 anni.
Torniamo al punto di partenza, con la distribuzione di Daniel Kokotajlo per l’IA che è “almeno all’altezza dei migliori esperti umani in praticamente tutti i compiti cognitivi”:
Anche se spesso esprimiamo le nostre tempistiche come singoli numeri (come la moda o la mediana), non credo che questo sia un approccio utile in questo caso. Guardate quel grafico. Quale numero lo riassume? La sua unica caratteristica reale è il picco, ma Kokotajlo sta dicendo che è improbabile che esso si verifichi entro quella data (solo il 27 % di probabilità). La mediana è spesso un numero migliore da fornire, ma qui si trova in un punto relativamente insignificante del grafico (tra 4 anni) e dire “4 anni” oscurerebbe il suo punto di vista secondo cui ritiene che ci sia una probabilità del 10 % che avvenga entro 1 anno e una probabilità del 10 % che avvenga oltre i 25 anni.
Penso che se spiegasse a un decisore politico intelligente cosa intende realmente con questa distribuzione, quest’ultimo alla fine lo capirebbe e direbbe:
Oh, quindi stai dicendo che non hai idea di quando accadrà — potrebbe essere l’anno prossimo come tra 6 mandati presidenziali*.* E stai dicendo che c’è una probabilità su cinque che non rientri nemmeno in quell’intervallo.
Penso che questa in realtà sia una sintesi piuttosto buona, e riassumerebbe anche la mia stessa distribuzione. Sebbene “non ho idea di quando accadrà” sminuisca le informazioni contenute in questa distribuzione, è una sintesi molto migliore di “4 anni”, che quasi tutti interpreterebbero come qualcosa del tipo “tra i 3 e i 5 anni”. Anche se gli accademici potrebbero sperare che le persone interpretino un anno specifico come il valore mediano, la maggior parte delle persone lo interpreta come il momento a partire dal quale può iniziare a lamentarsi del fatto che l’evento previsto non si è ancora verificato.
In effetti, queste distribuzioni sono così difficili da riassumere con un unico numero che ritengo che una parte sostanziale del disaccordo sulle tempistiche derivi dal fatto che le persone descrivono parti diverse dello stesso elefante. Ad esempio, sia i sostenitori dell’IA sia coloro che si preoccupano del rischio esistenziale parlano molto di tempistiche brevi perché “potremmo vedere il mondo trasformarsi nel giro di pochi anni”. Non è che pensino che accadrà sicuramente, ma piuttosto che sarebbe un fatto enorme se fosse vero, e che abbia una discreta probabilità di esserlo. Al contrario, le voci più conservatrici tendono a concentrarsi sugli anni successivi, affermando che “è più probabile che ci vogliano dai 10 ai 20 anni, piuttosto che solo pochi” (concentrandosi sulla probabilità pura senza ponderarla in base all’importanza o all’effetto leva).
Entrambe le cose possono essere vere allo stesso tempo. Entrambe sono vere nella mia distribuzione.
Un rischio specifico nel comunicare le tempistiche indicando un unico numero è che aumenta la probabilità che l’anno indicato arrivi e trascorra senza che accada nulla, e che le persone che lo hanno menzionato (o la comunità più ampia di cui fanno parte) vengano liquidate come portatrici di una visione falsa o screditata. Penso che assisteremo a qualcosa del genere con l’arrivo del 2027, a causa del gran numero di persone che hanno sentito parlare di quello scenario, unito al fatto che tantissimi media lo hanno riportato come una previsione netta, anziché per come era inteso: un importante scenario illustrativo.
Oltre a essere dannoso per la comunicazione, comprimere la propria incertezza in un unico numero sarebbe molto negativo per la pianificazione personale.
Ad esempio, la distribuzione di Kokotajlo implica una probabilità del 28 % che l’IA trasformativa si sviluppi durante l’attuale mandato presidenziale, una probabilità del 35 % che avvenga nel mandato successivo, una probabilità del 13 % che si concretizzi in quello dopo ancora, con il restante 24 % distribuito tra mandati sempre più lontani:
Si tratta di scenari molto diversi e sarebbe chiaramente un errore agire come se il secondo fosse corretto solo perché è il più probabile. Ciò eliminerebbe la possibilità di tutelarsi da un arrivo imminente dell’IA trasformativa, così come di trarre vantaggio dagli scenari in cui essa arriva più tardi.
Implicazioni
Piuttosto che cercare di stabilire quale sia l’esatta estensione delle tempistiche, penso che dovremmo adottare una prospettiva focalizzata su come agire (o pianificare) in presenza di tempistiche profondamente incerte.
In altre parole, dovremmo considerarlo un esercizio di processo decisionale razionale in condizioni di incertezza — in una situazione in cui la posta in gioco è alta e l’incertezza è enorme.
Analizziamo alcune delle implicazioni di questo quadro.
Inizieremo da due errori fin troppo comuni nel mondo delle politiche.
In primo luogo, l’incertezza sulle tempistiche di sviluppo dell’IA non è una scusa per credere semplicemente a qualsiasi tempistica si voglia, purché rientri in un intervallo credibile. Purtroppo, ritengo probabile che molti ministri di governo adotteranno questo approccio anche qualora un esperto spiegasse loro questa ampia incertezza. Pur avendo ragione nel ritenere che le prove non siano sufficienti a confutare la loro tempistica preferita, sarebbe irresponsabile da parte loro non tenere conto di altre possibilità credibili. Sarebbe come se un sindaco, venendo a sapere che c’è il 20 % di probabilità che il vulcano vicino alla sua città erutti l’anno successivo, ritenesse di poter continuare ad agire come se ciò non dovesse accadere, dato che anche l’ipotesi contraria è ritenuta credibile dagli esperti. L’incertezza non è una scusa per presumere che si verificherà il proprio esito plausibile preferito; piuttosto, la razionalità richiede di prendere in debita considerazione ogni esito plausibile.
In secondo luogo, non possiamo semplicemente aspettare che l’incertezza si risolva. A volte funziona, ma in questo caso sappiamo che è molto improbabile che l’incertezza si diradi prima che gli eventi siano ormai alle porte. A quel punto sarà troppo tardi per mettere in atto qualsiasi misura che non sia una reazione puramente istintiva. Quindi, pensare che la nube dell’incertezza autorizzi a ritardare l’azione equivale a rassegnarsi a scegliere una delle opzioni più grossolane e meno efficaci a disposizione.
Dovremo invece agire in condizioni di incertezza, tenendo conto dell’intera gamma di possibilità credibili.
Come possiamo farlo?
Cautelarsi
Un’idea naturale e importante è quella di cautelarsi contro l’arrivo imminente dell’IA trasformativa — proprio quando siamo meno preparati. Potremmo farlo riorientando il nostro portafoglio di attività (o il nostro contributo individuale al portafoglio dell’umanità) per concentrarci sulle tempistiche brevi un po’ più di quanto giustificherebbero le probabilità pure.
Questo ha molto senso. Raccomando vivamente a governi, società civile e mondo accademico di fare di più per cautelarsi contro l’arrivo precoce dell’IA trasformativa.
Tuttavia, per quanto riguarda le comunità di professionisti che già lavorano per far sì che la transizione verso l’IA proceda per il meglio, penso che si stiano già cautelando ampiamente contro l’arrivo precoce dell’IA trasformativa. Anzi, c’è persino il rischio che stiano andando oltre la semplice cautela e scommettendo attivamente su un suo arrivo precoce. Non ne sono sicuro, poiché è difficile conoscere l’intero portafoglio di attività.
Assistiamo certamente a molti più appelli a concentrare il lavoro su tempistiche molto brevi piuttosto che su tempistiche lunghe. Ma ci sono anche validi motivi per considerare le tempistiche lunghe nella nostra pianificazione, e modi in cui il lavoro mirato alle tempistiche lunghe può anch’esso avere un effetto leva estremamente elevato.
Esaminiamo due aspetti chiave che emergono quando le tempistiche sono più lunghe.
Un mondo diverso
Con tempistiche più lunghe, l’IA arriverà in un mondo che non assomiglia a quello odierno. Più tempo passerà prima che appaia l’IA trasformativa, più il mondo sarà diverso in quel momento chiave.
Come scenario di base, supponiamo che arrivi presto, nel 2028. Le cose saranno sicuramente diverse da oggi, ma ci aspetteremmo che molti degli aspetti generali rimangano simili. Probabilmente avremo lo stesso presidente degli Stati Uniti, gli stessi attori principali e le stesse tecnologie di punta. Se l’IA trasformativa arrivasse tra soli due anni, scommetterei su qualcosa di simile alla storia di AI 2027, in cui un laboratorio ha avviato in modo sconsiderato l’auto-miglioramento ricorsivo.
Ora supponiamo che l’IA trasformativa arrivi nel 2035. Non si tratterebbe di questo mandato presidenziale né del prossimo, ma di quello dopo ancora. Chissà chi sarebbe al potere o in che stato si troverebbero gli Stati Uniti. In questi nove anni assisteremo probabilmente a grandi cambiamenti nelle tecnologie fondamentali dell’IA (9 anni fa non esistevano né modelli linguistici di grandi dimensioni né trasformatori). Potremmo benissimo avere diverse aziende leader nell’IA, magari a seguito dello scoppio di una bolla che ha spazzato via i pionieri che si erano espansi eccessivamente.
Entro il 2035, i controlli sulle esportazioni potrebbero benissimo aver sortito l’effetto contrario, aiutando la Cina a portarsi in vantaggio sui chip, incentivandola a sviluppare una propria industria in questo settore e concedendole 13 anni per perfezionarsi. Questa era una dinamica chiave considerata dalla Casa Bianca durante la stesura dei controlli sulle esportazioni, che tuttavia si concentrava su tempistiche più brevi… Entro il 2035, la Cina potrebbe inoltre aver invaso Taiwan, privando l’Occidente della sua principale fonte di chip.
Entro il 2035, la disoccupazione potrebbe raggiungere le due cifre a causa di sistemi di IA sempre più potenti, e l’opinione pubblica sull’IA potrebbe assumere posizioni molto decise. La finestra di Overton per la regolamentazione dell’IA si troverà in una posizione molto diversa.
Così come potrebbe esserlo l’ordine geopolitico. Gli ultimi nove anni hanno visto l’invasione dell’Ucraina, il crescente isolamento degli Stati Uniti e una pandemia globale. Altri nove anni potrebbero portare a cambiamenti di simile entità.
E se non avremo giocato bene le nostre carte, quelli tra noi che lavorano per evitare i rischi catastrofici legati all’IA potrebbero anche aver perso molto potere, con le nostre idee sul rischio legato all’IA viste ormai come screditate dal momento che sono passati così tanti anni senza il verificarsi degli effetti davvero trasformativi di cui parlavamo.
In breve, più lunghe sono le tempistiche, più le cose saranno diverse — sia in modi sistematici e prevedibili, sia semplicemente per diffusione casuale e caos. Quindi prendere sul serio tempistiche più lunghe significa:
- Essere più aperti ad approcci che non funzionerebbero nel mondo così com’è oggi,
- Essere meno entusiasti di approcci su misura per le specificità del mondo di oggi,
- Essere meno disposti a scendere a compromessi sui propri valori per compiacere chi attualmente controlla aziende e governi,
- Essere meno disposti a dire cose che farebbero percepire la nostra posizione come screditata se ci ritrovassimo in un mondo con tempistiche lunghe,
- E dedicare meno tempo a seguire le notizie quotidiane su ciò che è appena successo nell’IA o su chi sia in vantaggio.
Azioni a lungo termine
Ci sono molti tipi di cose a cui le persone possono dedicarsi e che possono ripagare ampiamente, ma solo dopo diversi anni. Cose come:
- Fondare e coltivare un nuovo campo di ricerca
- Fondare un’organizzazione o un’azienda
- Costruire un movimento o una comunità
- Scrivere un libro
- Ricerca di base
- Completare un dottorato di ricerca
- Un cambiamento di carriera significativo
- Fare carriera in una grande organizzazione o nell’amministrazione pubblica
- Formare studenti promettenti nella sicurezza dell’IA o nella governance dell’IA
Se si considera solo l’impatto nei prossimi tre anni, la maggior parte di queste opzioni sarà superata da altre a più breve termine. Ma con il passare degli anni, le opzioni a più lungo termine possono avere un valore molto elevato. Non sono sempre le migliori, ma per le persone giuste o le opportunità giuste, possono avere un impatto enorme.
Quando ero un dottorando, mi sono reso conto di quanto bene avrei potuto fare se avessi donato gran parte del mio reddito nel corso della mia carriera per aiutare chi vive nei paesi più poveri. E più ci pensavo, più mi convincevo che avrei dovuto avviare qualcosa — un’organizzazione — per aiutare anche altre persone a fare lo stesso. Così Will MacAskill e io abbiamo lanciato Giving What We Can nel 2009. 17 anni dopo, più di 10 000 persone si sono unite a noi, ottenendo un impatto migliaia di volte superiore a quello che avrei avuto se avessi continuato da solo.
Questo tipo di crescita composta è uno dei modi principali in cui i progetti a lungo termine possono avere moltiplicatori molto grandi, amplificando enormemente nostro impatto se le tempistiche sono effettivamente lunghe.
L’avvio di nuovi campi di ricerca può seguire dinamiche simili. Quando ho incontrato Allan Dafoe per la prima volta 10 anni fa, non sapevo di cosa parlasse quando menzionava la “governance dell’IA” — un nuovo campo che stava cercando di fondare. Ora è un settore in forte espansione, con centinaia di professionisti fortemente richiesti da molti governi diversi.
Quando ho iniziato a scrivere The Precipice, non ero sicuro che avrei dovuto farlo, perché pensavo che l’IAG potesse essere troppo vicina. Ma a quanto pare, c’è stato il tempo per scriverlo e perché avesse un impatto reale. Sono davvero felice di averlo fatto, poiché incontro moltissime persone straordinarie impegnate sui rischi maggiori che mi dicono come sia stata proprio la lettura di The Precipice a ispirarle in tal senso. Credo sia una delle cose migliori che abbia mai fatto.
Dopo la sua uscita, pensavo semplicemente che non ci fosse abbastanza tempo per scrivere un altro libro — che fossimo davvero troppo vicini al momento critico. Potrebbe essere così, ma credo di essermi sbagliato sulla validità di questa argomentazione. L’orizzonte temporale necessario affinché un libro abbia un impatto reale è di circa 5 anni (il tempo di progettarlo, ottenere un contratto editoriale, scriverlo, aspettare che gli editori lo pubblichino e poi attendere un anno o più prima che abbia un impatto sufficiente sul mondo).
Tuttavia, credo ci sia solo una probabilità su cinque circa che l’IA trasformativa arrivi nei prossimi 5 anni. Pertanto, anche se il libro dovesse uscire troppo tardi, si tratterebbe solo di una probabilità su cinque, il che lascia al progetto editoriale l’80 % del valore atteso che avrei ingenuamente calcolato. Quindi, sebbene vi sia una probabilità su cinque che io me ne penta, secondo le mie opinioni sulle tempistiche di sviluppo dell’IA non c’è in realtà una riduzione così significativa del valore atteso dovuta all’eventualità che sia troppo tardi.
Detto questo, la probabilità che l’IA trasformativa arrivi prima che il proprio lavoro dia i suoi frutti è solo uno dei fattori che influenzano la scelta se dedicarsi a un lavoro mirato a tempistiche brevi o lunghe. Un altro fattore è che la sicurezza e la governance dell’IA sono probabilmente più trascurate oggi di quanto lo saranno in futuro. Ciò crea un ulteriore moltiplicatore per il valore del lavoro diretto in questi settori oggi e, in alcuni casi, ha un impatto maggiore rispetto alla probabilità che il proprio lavoro dia i suoi frutti dopo l’arrivo dell’IA trasformativa.
Nel complesso, penso che i progetti a più lungo termine vengano effettivamente penalizzati da queste considerazioni, ma a volte i loro vantaggi superano questo svantaggio, specialmente se puntano a un risultato molto grande. Immagino che se qualcuno valutasse le proprie opzioni e ritenesse che la migliore sia una che richiede dai 5 ai 10 anni per dare i suoi frutti, in circa la metà dei casi questa rimarrebbe la sua opzione migliore anche dopo aver preso in considerazione le tempistiche di sviluppo dell’IA. Dopotutto, non è raro che l’opzione migliore sia diverse volte superiore alla seconda.
Ritengo quindi che la comunità di persone che lavorano sull’IA trasformativa stia probabilmente sottovalutando le tipologie di lavoro che richiedono cinque o più anni per dare i propri frutti. Il portafoglio ideale di attività mirate a garantire una transizione positiva verso l’IA dovrebbe includere una serie di iniziative che ci aiutino davvero ad avere successo negli scenari in cui abbiamo più tempo per provare.
Ma voglio sottolineare che nulla di tutto ciò implica che possiamo prendercela comoda.
Siamo in una corsa contro le tempistiche di sviluppo dell’IA. Solo che non sappiamo se questa corsa sia uno sprint o una maratona. In entrambi i casi, il tempo è fondamentale.
Conclusioni
Abbiamo visto che vi sono un sostanziale disaccordo e una forte incertezza su quando l’IA inizierà ad avere impatti trasformativi sul mondo. Questo perché semplicemente non ci sono prove sufficienti per stabilirlo con certezza. La mia tesi è che, ai fini della pianificazione, non dovremmo adottare né tempistiche brevi né lunghe, ma tempistiche ampie:
La risposta epistemica corretta al persistente disaccordo tra gli esperti è avere un’ampia distribuzione delle tempistiche di sviluppo dell’IA.
Data questa profonda incertezza, dobbiamo agire con umiltà epistemica. Dobbiamo prendere sul serio la possibilità che ciò avvenga presto e tutelarci contro tale eventualità. Ma dobbiamo anche prendere sul serio la possibilità che avvenga tardi e sfruttare le opportunità che ciò ci offrirebbe. Il mondo in generale sta facendo troppo poco per il primo aspetto, ma quelli tra noi che hanno più a cuore il buon esito della transizione verso l’IA potrebbero star facendo troppo poco per il secondo.
Dobbiamo prendere più sul serio la possibilità che il mondo sarà molto diverso in quel momento, il che dovrebbe ampliare le nostre finestre di Overton su quali tipi di piani potrebbero avere successo. E non dovremmo escludere tutte le azioni che richiedono molto tempo per dare i loro frutti. Anche se non sarebbero d’aiuto in scenari con tempistiche brevi, alcune azioni compensano ampiamente questo limite con impatti sostanziali se le tempistiche sono lunghe.
I finanziatori, i consulenti di carriera e i promotori di movimenti dovrebbero riflettere su questo aspetto in relazione al modo in cui agiamo come comunità: alla struttura dell’intero portafoglio di attività mirate a migliorare efficacemente il mondo. E ciascuno di noi dovrebbe riflettere su cosa significhi questa tempistica profondamente incerta per la pianificazione dei propri contributi negli anni a venire.