Come l’IA potrebbe causare i problemi più gravi al mondo

Immagina di vivere 15 000 anni fa. Il tuo popolo è di cacciatori-raccoglitori e dormi sotto le stelle. Se qualcuno ti avesse detto che un giorno gli esseri umani avrebbero costruito città con milioni di persone, solcato i cieli o portato tutta la conoscenza umana nelle proprie tasche, non avresti nemmeno potuto immaginare cosa intendesse.

Eppure eccoci qui.

Come hanno fatto le nostre vite a cambiare così radicalmente da diventare irriconoscibili? La storia è complessa, ma c’è uno schema di massima. Certe volte nella storia, una svolta tecnologica radicale — come lo sviluppo dell’aratro e del motore a vapore — ha portato a un’ondata di produttività, innovazione e cambiamento sociale che alla fine ha rimodellato il mondo.

Ora siamo sulla soglia di una nuova, enorme svolta: l’intelligenza artificiale in grado di eguagliare o superare le capacità umane in un’ampia gamma di compiti.

Questo potrebbe portare a un’altra era di trasformazione. Potrebbe verificarsi un’esplosione di intelligenza e innovazione, e nascere un’intera nuova popolazione di esseri digitali. E con questo, la civiltà potrebbe assistere a cambiamenti profondi almeno tanto quelli causati dall’industrializzazione o dall’avvento dell’agricoltura.

Ma a differenza della rivoluzione industriale e di quella agricola, una trasformazione guidata dall’IA avanzata potrebbe non richiedere centinaia o migliaia di anni per dispiegarsi. Questa volta, il mondo potrebbe diventare irriconoscibile nel giro di pochi decenni — o anche meno.

Questo periodo di trasformazione potrebbe portare una prosperità sorprendente, con l’IA che rende possibili scoperte mediche salvavita e innovazioni per affrontare la crisi climatica. Ma potrebbe anche catapultarci impreparati in un mondo alieno di sfide. Immagina quei cacciatori-raccoglitori ritrovarsi improvvisamente in insediamenti affollati dove le malattie si diffondono a macchia d’olio, affrontando per la prima volta anche guerre tra eserciti organizzati. Oppure immagina le persone preindustriali costrette a fare i conti con enormi fabbriche che emettono sostanze inquinanti — e nuove misteriose armi chiamate “missili nucleari” in grado di spazzare via intere città.

Questo articolo spiegherà perché pensiamo che l’IA avanzata possa essere così trasformativa e perché lavorare per affrontarne i rischi — e, in generale, far sì che il futuro dell’IA vada per il meglio — possa essere la tua opportunità migliore per avere un impatto positivo sul mondo.

Riassunto

Prevediamo che ci saranno progressi sostanziali nell’IA nel prossimo decennio, potenzialmente fino al punto in cui le macchine supereranno gli esseri umani in molti compiti, se non in tutti. Sostituire i lavoratori umani con IA in settori critici potrebbe aumentare drasticamente l’innovazione e la produttività economica, portando a una rapida e drammatica trasformazione della società.

Questa trasformazione potrebbe portare enormi benefici, aiutandoci a risolvere problemi globali attualmente intrattabili. Ma potrebbe anche comportare gravi rischi, alcuni dei quali potrebbero essere esistenziali — nel senso che potrebbero causare l’estinzione umana, o un’altrettanto permanente e grave perdita di potere da parte dell’umanità. Ad esempio, l’umanità potrebbe perdere il controllo del proprio futuro a vantaggio di IA altamente intelligenti, oppure un gruppo pericoloso potrebbe utilizzare i sistemi di IA per ottenere (e mantenere) un potere senza precedenti sugli altri esseri umani.

Le persone che tentano di affrontare queste sfide sono troppo poche, e gli incentivi esistenti non favoriscono necessariamente il lavoro sui rischi più gravi. Stimiamo che solo poche migliaia di persone si concentrino sulle sfide più importanti poste dall’IA: un numero di gran lunga inferiore a quello di chi lavora su altri problemi mondiali, come il cambiamento climatico, e di gran lunga inferiore a quello che riteniamo giustificato, data la scala dei cambiamenti a cui potremmo presto assistere.

Per tutti questi motivi, riteniamo che le sfide poste dall’IA avanzata siano i problemi più urgenti che l’umanità si trova ad affrontare oggi.

Puoi trovare spiegazioni complete dei rischi specifici posti dall’IA avanzata — e cosa puoi fare al riguardo — nella nostra serie sui problemi più urgenti al mondo.

Questo è uno dei tanti profili che abbiamo scritto per aiutare le persone a trovare i problemi più urgenti che possono risolvere con la propria carriera. Scopri di più su come mettiamo a confronto diversi problemi e scopri come questo problema si colloca rispetto agli altri che abbiamo preso in considerazione finora.

Perché pensiamo che l’IA avanzata ponga i problemi più urgenti al mondo

Da oltre un decennio, esaminiamo i più grandi problemi al mondo e gli approcci per risolverli. Riteniamo che l’insieme delle sfide poste dall’IA avanzata costituisca i problemi più urgenti che l’umanità deve affrontare oggi, data la loro scala e le opportunità promettenti ma trascurate per affrontarli.

La nostra preoccupazione riguardo ai rischi legati all’IA non è una reazione all’ondata di interesse per l’IA a seguito del rilascio di ChatGPT nel 2022. Sosteniamo che l’IA possa comportare rischi catastrofici già dal 2016, e altri hanno sollevato preoccupazioni in merito molto prima di allora (1 2, 3, 4).

In breve, riteniamo plausibile che l’IA avanzata possa trasformare radicalmente il mondo. Ciò potrebbe porre sfide estreme per l’umanità e rappresenta un’opportunità potenzialmente unica per avere un impatto positivo.

Esaminiamo le sfide specifiche che riteniamo più urgenti nei nostri profili dei problemi. Questo articolo spiega perché riteniamo che l’IA avanzata dia origine a questioni così importanti in generale.

Si potrebbero avanzare molte argomentazioni — ad esempio, che l’IA avanzata costituirà una “seconda specie” o che renderà il XXI secolo “il secolo più importante” per l’umanità.⁠⁠1)

Ma ecco la versione dell’argomentazione che riteniamo più convincente:

1. L’IA potrebbe sostituire il lavoro umano in alcuni dei settori a più alto valore economico.
2. La sostituzione del lavoro umano in questi settori potrebbe innescare la prossima trasformazione radicale della società.
3. Questa trasformazione potrebbe essere estremamente rapida e drammatica, specialmente se ci sono veloci cicli di retroazione nella ricerca e sviluppo sull’IA.
4. Una trasformazione rapida guidata dall’IA solleverebbe una serie di grandi sfide, inclusi rischi esistenziali.
5. Il lavoro su queste sfide è trattabile ma trascurato.

Di seguito argomenteremo ciascuna di queste affermazioni.

Per essere chiari, non tutte le questioni di scala esistenziale relative all’IA avanzata devono passare attraverso questa argomentazione. Anche senza automatizzare gran parte del lavoro umano, i sistemi di IA potrebbero comunque causare danni enormi. Ad esempio, soggetti malintenzionati potrebbero utilizzare l’IA per progettare nuove armi biologiche o sferrare sofisticati attacchi informatici. Questo di per sé potrebbe essere un motivo sufficiente per lavorare su specifici rischi legati all’IA.

Ma la storia che raccontiamo di seguito — con il mondo che si sta rapidamente trasformando attraverso una diffusa automazione — costituisce l’argomentazione più ampia a nostra conoscenza per dare priorità ai rischi legati all’IA in generale. Spiega perché potrebbero emergere contemporaneamente una serie di sfide senza precedenti e perché potremmo non avere molto tempo per prepararci.

1. L’IA potrebbe sostituire il lavoro umano nei settori a più alto valore economico

Molte tecnologie — come le criptovalute, gli NFT, l’“Internet delle cose”, la fusione nucleare e la computazione quantistica — sono state oggetto di un eccessivo clamore. Spesso le persone nutrono grandi aspettative su quanto una nuova innovazione cambierà il mondo, ma la realtà a volte non è all’altezza.

Ma pensiamo che l’IA sarà diversa.

Il motivo è che, a differenza di altre tecnologie, l’IA ha il potenziale per competere con — e persino superare — l’intelligenza umana. Ciò significa che potrebbe sostituire e riprodurre il principale motore del progresso nella nostra storia: il lavoro umano flessibile.

Alcune tecnologie, come i bancomat, imitano forme estremamente limitate di lavoro umano. Altre, come i motori a vapore e i computer, amplificano ciò che gli esseri umani possono fare. Ma l’idea alla base dell’intelligenza artificiale è che sarà in grado di svolgere quasi qualsiasi lavoro che gli esseri umani possono fare — e di farlo per lo più autonomamente.

Gli sportelli automatici non hanno mandato in disoccupazione tutti gli impiegati bancari⁠⁠2) perché c’erano altri compiti a cui gli esseri umani potevano facilmente passare. Ma immagina uno sportello automatico che non solo potesse erogare contanti, ma anche gestire i sistemi informatici della banca, contribuire alla strategia aziendale e fornire ai clienti una consulenza finanziaria su misura. Immagina che possa farlo quasi senza il nostro aiuto e a un costo inferiore rispetto a quello dei lavoratori umani. Se così fosse, non è chiaro perché mai la banca dovrebbe continuare a impiegare esseri umani.⁠⁠3)

Supponiamo ora che lo stesso sistema che ha fatto tutto questo per la banca possa svolgere un lavoro equivalente anche per le aziende tecnologiche, i laboratori di ricerca scientifica, le società di consulenza, i think tank, il New York Times, il governo degli Stati Uniti e così via.

Questo è ciò che prospetta l’IA.

Stiamo già scorgendo i primi barlumi della capacità sempre più generale dell’IA di svolgere lavoro umano. Oggi i sistemi di IA possono fare cose che solo un decennio fa sarebbero state sbalorditive.

Ad esempio, si consideri il rapido progresso compiuto dai modelli linguistici sul benchmark GPQA, che pone domande impegnative, di livello dottorale, su chimica, fisica e biologia. A metà del 2023, le prestazioni dell’IA di frontiera su queste domande erano solo leggermente migliori di quelle ottenute tirando a indovinare. Ma dall’inizio del 2025, molti modelli hanno superato gli esperti umani — e talvolta con un ampio margine.

Hanno inoltre dimostrato un miglioramento impressionante nelle attività di ingegneria del software. Ad esempio, lo strumento di programmazione agentica di Anthropic, Claude Code, consente agli utenti di creare applicazioni descrivendo ciò che desiderano — anche se non hanno alcuna esperienza di programmazione.

Un ingegnere senior di Google ha riferito che Claude Code ha impiegato un’ora per generare un prototipo di un sistema per la cui realizzazione il suo team aveva trascorso un anno a esplorare diversi approcci. E Anthropic ha realizzato il suo prodotto “Cowork” (una versione più intuitiva di Claude Code per i non sviluppatori) in meno di due settimane facendo scrivere a Claude Code la maggior parte del codice.⁠⁠4)

Gli attuali sistemi di IA possono anche:

• Prevedere strutture e interazioni biomolecolari complesse: AlphaFold 3 di Google DeepMind — successore di un sistema di IA vincitore del Premio Nobel — è in grado di prevedere come le proteine interagiscono con il DNA, l’RNA e altre strutture a livello molecolare.
• Risolvere problemi matematici complessi in modo competitivo: Secondo quanto riferito, diversi modelli di IA hanno ottenuto medaglie d’oro alle Olimpiadi internazionali della matematica. Separatamente, quando 30 matematici di spicco sono stati sfidati a ideare problemi che ritenevano l’IA non sarebbe stata in grado di risolvere, l’o4 mini di OpenAI ha sventato molti dei loro migliori tentativi — risolvendo persino una domanda di livello dottorale in circa dieci minuti.
• Migliorare la robotica: molti dei principali modelli di robotica sono ora guidati dall’IA. Ad esempio, Boston Dynamics sta potenziando i suoi robot Atlas con l’IA di Google DeepMind per aiutarli a comprendere e manipolare meglio i loro ambienti. Questi robot saranno impiegati per lavori industriali negli stabilimenti Hyundai.
• Eseguire attività estese in modo indipendente sui nostri computer: a differenza dei modelli precedenti che potevano solo generare testo, le nuove IA “agentiche” come Claude Code e Codex di OpenAI sono ora in grado di utilizzare numerosi strumenti sul computer, eseguire codice, effettuare ricerche sul web e concatenare più passaggi, consentendo loro di completare attività estese e del mondo reale con un coinvolgimento umano molto minore.
• Contribuire allo sviluppo stesso dell’IA: Esistono anche prove che i sistemi di IA possano superare gli esseri umani nei compiti di ricerca e sviluppo sull’IA, almeno se limitati a una finestra temporale di due ore.
• E molto altro ancora.⁠⁠5) Questo è il tipo di sistema che le principali aziende di IA stanno cercando attivamente di costruire, e stanno investendo miliardi di dollari per essere le prime ad arrivarci.

Osservando le recenti tendenze nello sviluppo dell’IA, riteniamo che sia sorprendentemente plausibile (anche se tutt’altro che garantito) che otterremo questo tipo di IAG entro il prossimo decennio.

Ma probabilmente non si fermerà qui. Non c’è motivo di pensare che gli esseri umani rappresentino il limite massimo delle capacità mentali — quindi, alla fine, l’IA potrebbe superare di gran lunga le prestazioni umane in molti (se non tutti) compiti cognitivi. Plausibilmente, potrebbe persino svolgere compiti che superano le capacità umane tanto quanto l’analisi matematica supera quelle degli scimpanzé.⁠⁠6)

Potrebbe anche non volerci molto prima che la società compia enormi progressi nella robotica. Sebbene i robot odierni siano molto rudimentali, stanno migliorando. E man mano che le nostre IA diventeranno cognitivamente più intelligenti, miglioreranno anche nel controllare gli arti robotici e nel progettarli. Ciò significa che i sistemi di IA potrebbero rapidamente arrivare a superare gli esseri umani anche in qualsiasi compito fisico.

Nelle prossime sezioni spiegheremo come le IA avanzate del futuro potrebbero trasformare la società e presentare gravi rischi.

La nostra argomentazione si concentra sulla prospettiva che l’umanità sviluppi un’IAG o qualcosa di simile. Questa non è l’unica pietra miliare importante (vedi sotto). Ma riteniamo che se l’IA potesse eguagliare le capacità umane nei compiti cognitivi che più guidano l’innovazione e la produzione economica, ciò sarebbe probabilmente sufficiente a consentire il rapido progresso che descriviamo nelle sezioni seguenti.⁠⁠7) E se l’IA diventasse ancora più strabiliante di così — cosa che riteniamo probabile — gli effetti potrebbero essere ancora più drammatici.

2. Sostituire una tale quantità di manodopera umana potrebbe innescare la prossima trasformazione radicale della società

Cosa significherebbe quindi se i sistemi di IA potessero superare gli esseri umani in una gamma così ampia di compiti?

La prima cosa a cui spesso si pensa in questo caso è la disoccupazione di massa. Si tratta di una possibilità concreta, che avrebbe gravi conseguenze per la società.⁠⁠8) Ma pensiamo che concentrandosi su questo si perda in realtà di vista una prospettiva ancora più ampia.

Un mondo con macchine in grado di sostituire così tanto lavoro umano sarebbe talmente diverso da essere difficile da immaginare.

Per avere un termine di paragone, pensa a quanto sia diverso il mondo di oggi da com’era per i nostri antenati 200 anni fa, 2 000 anni fa o 20 000 anni fa. I mondi prima dell’elettricità, della stampa o dell’agricoltura avevano un aspetto letteralmente molto diverso e stili di vita completamente diversi.

Con ciascuna di queste importanti svolte tecnologiche, il mondo è stato trasformato.

Prendiamo la prima rivoluzione agricola. Prima dell’agricoltura, gli esseri umani erano per lo più cacciatori-raccoglitori e spesso vivevano in piccoli gruppi.⁠⁠9) Lo sviluppo di tecnologie agricole come l’aratro ci permise di produrre molto più cibo pro capite, portando alla nascita delle prime città. E, in misura crescente, alcune persone poterono specializzarsi in compiti diversi dalla ricerca del cibo — il che permise agli esseri umani di inventare la lavorazione dei metalli, la scrittura e i primi sistemi di governo.

La rivoluzione industriale seguì un modello simile. L’avvento di tecnologie come il motore a vapore aumentò drasticamente la produttività — e innescò innovazioni nella produzione e nella comunicazione. Ancora una volta, ciò portò a cambiamenti radicali nel modo di vivere degli esseri umani: beni che un tempo erano articoli di lusso divennero accessibili alla gente comune, le ferrovie collegarono città distanti e vaste fasce di popolazione passarono dalla vita rurale a quella urbana.

Che cosa sta succedendo?

Ogni periodo di trasformazione nella storia ha la sua complessa vicenda, e ci sono teorie contrastanti sulle cause che li hanno determinati. Una spiegazione diffusa, tuttavia, vuole che si ripresenti sempre lo stesso schema di massima: una nuova e potente tecnologia ci permette di sostenere popolazioni più numerose e, al contempo, di fare di più con gli stessi corpi e le stesse menti. Ciò significa più lavoro umano e maggiore produttività — il che ha effetti cumulativi, poiché porta a un’ondata di ulteriori innovazioni.⁠⁠10)

Poiché l’innovazione spesso alimenta la crescita economica, l’umanità è diventata anche molto più ricca in questo processo. Infatti, dalle fasi finali della rivoluzione industriale, abbiamo assistito a una crescita approssimativamente esponenziale del PIL.⁠⁠11)

Il filo conduttore di tutte queste storie è che la crescita sembra essere sempre stata dipendente dal lavoro umano — la società è riuscita a progredire solo tanto rapidamente quanto gli esseri umani sono stati in grado di produrre e implementare nuove idee (cioè nuove teorie, invenzioni, modi di lavorare e così via).

Ma ora siamo sull’orlo di una nuova svolta.

Se le future IA potranno sostituire i lavoratori umani nei settori economicamente più redditizi, non dipenderemo più così tanto dal lavoro umano per sostenere questi cicli di innovazione e ricchezza che si autoalimentano. Al contrario, l’IA potrebbe diventare il motore principale del progresso.

Riteniamo che ciò potrebbe portare a un’altra trasformazione della società.

Come altre innovazioni tecnologiche, potrebbe consentire alla società di generare molte più idee e un prodotto economico molto maggiore. Ma a differenza delle tecnologie precedenti, le IA potrebbero effettivamente assumere il controllo dei processi che più guidano l’innovazione e la produzione economica (incluso il processo di progettazione di IA migliori). E come vedremo in seguito, questi “lavoratori IA” potrebbero anche avere enormi vantaggi rispetto alle loro controparti umane.

Ciò potrebbe significare che la trasformazione portata dall’IA sarà estremamente rapida e più drammatica di qualsiasi cosa abbiamo visto prima.

3. Questa trasformazione potrebbe essere estremamente rapida e drammatica

Cosa potrebbe quindi accadere man mano che le IA automatizzano sempre più l’economia?

Come minimo, ci aspettiamo di vedere un rapido aumento della quantità totale di manodopera — poiché, a differenza degli esseri umani, i sistemi di IA possono essere facilmente replicati su larga scala, dato un hardware sufficiente.

Supponiamo di costruire un’IA in grado di sostituire un ingegnere umano. Le stime suggeriscono un’enorme incertezza in questo ambito, ma, a seconda delle circostanze, potrebbe essere fattibile mettere in funzione contemporaneamente da migliaia a centinaia di milioni di copie di questa IA.⁠⁠12)

E questo numero potrebbe crescere rapidamente. Grazie a miglioramenti nell’efficienza degli algoritmi alla base di questi lavoratori di IA, potremo eseguire un numero maggiore di copie con la stessa quantità di potenza di calcolo.⁠⁠13) Potremmo anche destinare più potenza di calcolo all’esecuzione delle copie, acquistando più chip o progettandone di più efficienti. Presto potremmo avere una forza lavoro di IA pari a una frazione significativa della popolazione mondiale in età lavorativa.⁠⁠14)

I lavoratori di IA potrebbero anche avere altri vantaggi rispetto ai lavoratori umani:

• Le IA possono lavorare molto più velocemente degli esseri umani, spesso comprimendo diversi giorni di elaborazione delle informazioni in pochi minuti.
• Le IA potrebbero essere in grado di coordinarsi tra loro in modo molto più efficiente rispetto agli esseri umani — forse a costi inferiori e su scale maggiori.
• Le IA possono specializzarsi molto rapidamente, con diverse versioni perfezionate per essere eccezionalmente abili in compiti specifici.

Basandoci solo su questi vantaggi, potremmo presto assistere a livelli di innovazione e produzione economica senza precedenti, man mano che le IA svolgeranno sempre più lavoro. Ciò potrebbe trasformare la società — per le stesse ragioni per cui lo fece l’automazione del lavoro fisico durante la rivoluzione industriale.

E pensiamo che le cose potrebbero essere ancora più veloci e dirompenti di quanto ci si potrebbe aspettare sulla base di quanto detto sopra.

Questo perché, a un certo punto di questa storia, ci aspettiamo che le IA saranno utilizzate per automatizzare la ricerca e lo sviluppo delle IA stesse. E questo potrebbe innescare una “esplosione di intelligenza”: un periodo di rapido progresso tecnologico guidato da sistemi di IA in grado di creare sistemi di IA migliori.

Ecco come potrebbe svolgersi:

• I sistemi di IA diventano abbastanza efficienti da automatizzare tutto o gran parte del lavoro nella ricerca e sviluppo dell’IA.
• Questi “lavoratori” di IA ci aiutano a costruire sistemi di IA migliori molto più velocemente.
• Questi sistemi migliori sono poi ancora più utili per l’automazione della ricerca e sviluppo sull’IA, il che ci permette di costruire sistemi ancora migliori, e così via.

Se ciò accadesse, si potrebbe creare un ciclo di retroazione positiva in cui i sistemi di IA migliorerebbero sempre di più — potenzialmente in un periodo di tempo molto breve.⁠⁠15)

E questo non significherebbe solo costruire sistemi di IA sempre migliori nella ricerca e sviluppo dell’IA. Significherebbe accelerare i miglioramenti delle capacità dell’IA in senso più ampio, fornendoci lavoratori di IA sempre più capaci e generali da impiegare in tutta l’economia — il che, a sua volta, potrebbe accelerare il progresso nella maggior parte dei settori della società.

Come sarebbe un “progresso accelerato”?

Come abbiamo detto, i precedenti periodi di trasformazione nella storia erano in definitiva limitati dal ritmo con cui gli esseri umani potevano produrre e implementare nuove idee (cioè nuove teorie, invenzioni e modi di lavorare). Ma ora immagina di avere una vasta forza lavoro di IA in grado di produrre idee molto più brillanti delle nostre, molto più velocemente di quanto potessimo fare prima — e di metterle in pratica in modo più efficiente.

Pensiamo che questo potrebbe trasformare la società in un arco di tempo più breve di quanto abbiamo mai visto.

Come sarebbe? Per prima cosa, le scoperte scientifiche potrebbero avvenire a una velocità senza precedenti. Il mercato potrebbe essere improvvisamente invaso da nuove tecnologie che altrimenti avrebbero richiesto decenni per essere sviluppate. Le infrastrutture e la produzione potrebbero espandersi su scale che oggi riusciamo a malapena a immaginare. In termini più speculativi, se i lavoratori di IA venissero impiegati su scala più ampia, potremmo assistere a un’ondata di idee innovative — non solo nella scienza e nella tecnologia, ma anche nell’arte, nella politica, nella filosofia, nell’intrattenimento — che cambierebbero radicalmente il nostro stesso modo di concepire il mondo.

Il mondo potrebbe diventare anche molto più ricco, poiché molte innovazioni possono aumentare la produzione economica. Infatti, alcuni ricercatori ritengono che un afflusso di nuove idee generate da lavoratori di IA porterebbe a una “crescita economica esplosiva” — e, a sua volta, parte di questa nuova ricchezza potrebbe essere utilizzata per accelerare ancora di più la produzione di idee.⁠⁠16)

Quanto velocemente potrebbe trasformarsi la società, esattamente? Esistono alcuni limiti a quanto “esplosiva” possa diventare la traiettoria del progresso umano, anche con questi cicli di retroazione in atto. Ad esempio:

• A un certo punto, incontreremo dei colli di bottiglia nello sviluppo dell’IA — ad esempio la disponibilità di potenza di calcolo, energia o dati di alta qualità — che limiteranno quanto i lavoratori IA potranno migliorare in un breve periodo.
• In ogni campo, il progresso potrebbe diventare sempre più difficile, man mano che i lavoratori di IA esauriscono rapidamente le scoperte e le nuove idee più a portata di mano.⁠⁠17)
• Se alcuni tipi di lavoro fossero particolarmente resistenti all’automazione — come compiti fisici complessi o determinati processi legali o politici — anche questo potrebbe rallentare il progresso.

Ma anche tenendo conto di questi effetti, alcuni ricercatori sostengono ancora che gli effetti dell’automazione dell’IA potrebbero comprimere un secolo di progressi in un decennio.

Questo livello di progresso non potrà essere sostenuto per sempre. Ma il mondo potrebbe essere già stato radicalmente trasformato per quando le cose rallenteranno — proprio come la rivoluzione industriale alla fine giunse al termine, ma lasciò dietro di sé un mondo totalmente irriconoscibile.

4. Una trasformazione rapida guidata dall’IA solleverebbe una serie di grandi sfide, compresi rischi esistenziali

L’idea che l’IAG possa potenziare l’innovazione e la produzione economica potrebbe sembrare un’ottima notizia. Il mondo potrebbe diventare straordinariamente ricco e potremmo sviluppare rapidamente nuove tecnologie che ci aiutino ad affrontare la crisi climatica o a sconfiggere le malattie.

Infatti, la promessa della tecnologia è uno dei motivi per cui ci aspettiamo che alcune persone siano entusiaste dello sviluppo di sistemi di IA avanzati. Come afferma Dario Amodei (amministratore delegato di Anthropic): una grande motivazione per lo sviluppo dell’IAG è “una visione del futuro davvero stimolante”.

In generale, i timori nei confronti delle tecnologie emergenti sono spesso ingiustificati. Molte innovazioni che sono state guardate con sospetto, come i vaccini e le ferrovie, si sono rivelate di enorme beneficio per l’umanità.

Ma in questo caso, le cose sembrano diverse. Per la prima volta, stiamo progettando una nuova popolazione di esseri altamente intelligenti — agenti in grado di svolgere le attività di maggior valore economico che le menti umane possono compiere, e che potrebbero non fare affidamento sugli esseri umani per farlo.

Ciò introduce dinamiche complesse che non sembriamo pronti ad affrontare e che non comprendiamo nemmeno appieno. Di fronte all’IA avanzata, gli esseri umani potrebbero essere come bambini che cercano di orientarsi in un mondo di adulti, con cambiamenti in tutto ciò che conosciamo — nella scienza, nell’economia, nella geopolitica e persino nei nostri stili di vita — che avvengono più velocemente di quanto riusciamo ad afferrare i nuovi e difficili concetti che ne sono alla base.

Data l’incertezza su come si evolverà lo sviluppo dell’IA, è difficile prevedere esattamente quali sfide dovremo affrontare. Ma quelle che ci sembrano più preoccupanti sono:

• Incontreremo agenti che potrebbero essere molto più intelligenti degli esseri umani e avere obiettivi propri. Tali obiettivi potrebbero portarli a minare gli interessi umani o addirittura a privare l’umanità del proprio potere se non riusciremo a controllarli.
• Piccoli gruppi potrebbero acquisire un potere senza precedenti. Se gruppi d’élite riusciranno a controllare una potente IA, dipenderanno molto meno da altri esseri umani per portare a termine i loro obiettivi. Con una vasta forza lavoro di IA, potrebbero accumulare livelli di influenza economica e politica senza precedenti, o addirittura prendere il potere — e probabilmente non avrebbero forti incentivi a rappresentare gli interessi della popolazione in generale.
• Tecnologie pericolose, come le armi biologiche, potrebbero diventare molto più accessibili. L’accesso a IA altamente potenti potrebbe rendere molto più facile progettare o procurarsi armi pericolose, abbassando significativamente la soglia necessaria a causare danni devastanti all’umanità.
• Potremmo creare una nuova e vasta popolazione di esseri il cui benessere e i cui interessi contano, sollevando questioni complesse su come coesistere con loro.
• Questi fattori potrebbero alimentare conflitti e disordini, culminando forse in una guerra tra grandi potenze o creando altre sfide impreviste.

Il modo in cui gestiremo queste dinamiche potrebbe determinare se il futuro andrà bene o male.

Se agiremo con saggezza, potremmo creare un futuro florido con una prosperità senza precedenti per tutti gli esseri senzienti e persino spingerci fino alle stelle. Ma se perderemo il controllo dell’IA avanzata, o se attori malintenzionati la useranno per compromettere gli interessi del resto del mondo, potremmo andare incontro a una catastrofe — come la perdita permanente da parte dell’umanità della capacità di plasmare il futuro, o l’estinzione umana.

In altre parole, riteniamo che queste questioni comportino un rischio esistenziale, il che le rende tra i problemi più urgenti al mondo.

E sebbene speriamo che queste questioni siano trattabili, non possiamo semplicemente dare per scontato che le nostre istituzioni le gestiranno bene automaticamente. Dopotutto, si tratta di un territorio confuso e senza precedenti. E abbiamo visto la società precipitare nel disastro quando ha dovuto affrontare nuove sfide per le quali non era sufficientemente preparata — basti pensare alle lente risposte istituzionali ai primi allarmi sul COVID-19, o ai numerosi incidenti evitati per un soffio che abbiamo visto con le armi nucleari.

La velocità di questa transizione potrebbe contare molto

Ci sono due modi in cui la velocità può essere fondamentale per questa transizione:

• È importante quanto tempo abbiamo da ora fino a quando avremo sistemi di IA estremamente potenti e generali
• È importante quanto velocemente il mondo verrà radicalmente trasformato da questi sistemi una volta che saranno disponibili

Se mancano solo pochi anni all’arrivo dell’IAG o di qualcosa di simile, allora abbiamo poco tempo per scongiurare i rischi.

E se l’IA avanzata cambiasse il mondo molto rapidamente, potremmo non avere il tempo di adattarci alle mutevoli circostanze e prendere decisioni sagge.

Anche adesso, le nostre istituzioni a volte agiscono troppo lentamente — per esempio, ci sono voluti circa 50 anni dai primi avvertimenti scientifici sul riscaldamento globale perché venisse firmato lo storico Accordo di Parigi sul clima. A meno che non apportiamo grandi cambiamenti al funzionamento delle nostre istituzioni, se l’IA diventerà rapidamente più potente e più produttiva, sembra che sarà estremamente difficile per la società stare al passo.

C’è un dibattito acceso su quanto presto potrebbero arrivare sistemi avanzati di IA e quanto rapidamente potrebbero cambiare il mondo. Ma c’è almeno una discreta possibilità che saranno qui entro il prossimo decennio e che le cose cambieranno molto velocemente — infatti, il livello di preoccupazione degli esperti suggerisce che dobbiamo prendere sul serio questa possibilità (1 2, 3). E data la posta in gioco, riteniamo importante prepararci a questa eventualità anche se la probabilità che si verifichi è bassa — diciamo del 10 %.

Questo significa che non possiamo ignorare i rischi, né tardare ad agire. Dobbiamo trovare soluzioni solide prima che sia troppo tardi.

5. Il lavoro su questi problemi è trattabile ma trascurato

Da oltre un decennio aiutiamo chi vuole lavorare a questo problema. In questo periodo, il campo è cresciuto in modo sostanziale.

Un’analisi del 2025 stima che il numero totale di persone che lavorano sui rischi esistenziali legati all’IA sia pari a 1 100 — e riteniamo che anche questa cifra possa essere sottostimata, poiché include solo le organizzazioni che si definiscono esplicitamente come impegnate nella “sicurezza dell’IA”.

Stimiamo che in realtà siano alcune migliaia di persone a concentrare il proprio lavoro sui rischi più importanti posti dall’IAG. Ma per mettere le cose in prospettiva, Nature Conservancy da sola conta 3 000–4 000 dipendenti, ed è solo una delle tante organizzazioni che si occupano di conservazione ambientale e cambiamento climatico. Anche altre questioni globali come la salute pubblica ricevono molta attenzione — ad esempio, l’Organizzazione Mondiale della Sanità impiega oltre 8 000 persone.

Ciò significa che i rischi legati all’IA sono gravemente trascurati rispetto a molti altri problemi mondiali — quindi ogni persona in più che lavora per affrontarli può fare una differenza maggiore.⁠⁠18)

Siamo inoltre ottimisti sul fatto che possiamo compiere progressi su questi problemi. Dopotutto, gli esseri umani stanno scegliendo di progettare e implementare queste tecnologie, il che significa che abbiamo una certa influenza su come andranno le cose.

Parte della sfida sta nel fatto che le persone che attualmente hanno la maggiore influenza sullo sviluppo dell’IA non sono necessariamente incentivate a dare priorità alla sicurezza dell’IA. Le aziende di IA vogliono guadagnare e subiscono pressioni per sviluppare tecnologie senza tenere pienamente conto dei rischi che impongono alla società. I leader politici si preoccupano dell’opinione pubblica e dei cicli elettorali, il che dà loro meno tempo e motivazione per concentrarsi sul servire interessi più ampi o a lungo termine. Abbiamo quindi bisogno di persone che vogliano dare priorità, nella loro carriera, ad aiutare gli altri, affrontando le principali sfide che altrimenti potrebbero essere ignorate.

Ci sono molti modi in cui puoi contribuire ad affrontare queste sfide. Dai un’occhiata al nostro hub di risorse sulle carriere nell’IA per saperne di più.

Obiezioni e risposte

State sopravvalutando la rapidità e la portata con cui l’IA trasformerebbe il mondo

Abbiamo sostenuto che l’automazione del lavoro umano potrebbe trasformare il mondo a un ritmo senza precedenti, ma ci sono diversi modi in cui la nostra argomentazione potrebbe essere errata.

• Potrebbe non verificarsi un’esplosione di intelligenza. Potremmo impiegare una generazione di lavoratori di IA per automatizzare alcuni settori, ma non riuscire a far sì che creino lavoratori di IA ancora migliori o più generali — forse perché raggiungeremo il limite di ciò che gli attuali approcci all’IA possono realizzare, o cadremo in un altro “inverno dell’IA”. Otterremmo comunque un aumento una tantum delle dimensioni e dell’efficienza della nostra forza lavoro, rendendo la società molto più produttiva. Ma probabilmente non vedremmo i miglioramenti drastici e cumulativi che abbiamo descritto in precedenza.
• I vincoli al progresso potrebbero essere più forti delle nostre aspettative. Anche se le IA ci aiutassero a costruire lavoratori di IA sempre più capaci, il ciclo di retroazione che questo crea potrebbe non essere così “esplosivo” come lo abbiamo descritto. Ad esempio, i colli di bottiglia nella ricerca e sviluppo sull’IA — come la disponibilità di potenza di calcolo, energia e dati di alta qualità — potrebbero far sì che lo sviluppo della prossima generazione di lavoratori di IA sia semplicemente un processo lento. E in ogni campo che cerchiamo di automatizzare, i rendimenti dello sforzo potrebbero diminuire drasticamente, poiché i lavoratori di IA esaurirebbero rapidamente le opportunità a portata di mano, facendo svanire gli effetti di un’esplosione di intelligenza.
• Le attività che dipendono dall’uomo potrebbero rivelarsi colli di bottiglia critici. Alcune attività di grande valore economico — ad esempio, quelle che richiedono un’interazione complessa con il mondo fisico o la gestione di progetti che si protraggono per settimane o mesi — potrebbero semplicemente richiedere un tempo particolarmente lungo per essere automatizzate. Almeno nelle prime fasi dell’automazione, la velocità del progresso guidato dall’IA potrebbe essere seriamente limitata dal ritmo con cui gli esseri umani possono svolgere le attività rimanenti.
• Il nostro modello di progresso umano potrebbe tralasciare componenti chiave. Abbiamo sostenuto che l’aumento della manodopera e le nuove idee possono guidare un rapido progresso, indicando esempi storici come la rivoluzione industriale. Ma altri fattori che non abbiamo considerato esplicitamente, come i cambiamenti istituzionali o culturali, potrebbero essere cruciali — e quando avremo IA in grado di sostituire i lavoratori umani, questi fattori potrebbero semplicemente essere troppo deboli per sostenere qualcosa come “un secolo di progresso in un decennio”.

In uno qualsiasi di questi scenari, continuiamo a ritenere che l’IA potrebbe trasformare il mondo (e comportare gravi rischi). Ma questa trasformazione probabilmente non avverrebbe così rapidamente come abbiamo immaginato. E come abbiamo sostenuto, la velocità conta: influisce sul tempo a nostra disposizione per adattarci alle circostanze mutevoli e prendere decisioni sagge.

Se le obiezioni di cui sopra sono corrette, potrebbe anche essere davvero difficile sostenere un periodo di innovazione e produzione economica a ritmi frenetici. In tal caso, il progresso potrebbe esaurirsi rapidamente — forse anche prima di assistere a cambiamenti drammatici come quelli visti durante la rivoluzione industriale.

Ma data la scala dei rischi in gioco, riteniamo che sia importante essere preparati a uno scenario in cui l’IA trasformi il mondo in modo rapido e drammatico, anche se la probabilità che ciò accada è relativamente bassa (diciamo il 10 %).

Tuttavia, l’incertezza del caso rende più difficile soppesare l’opportunità di lavorare sui rischi legati all’IA rispetto ad altri problemi urgenti, come l’allevamento intensivo.

È difficile credere che l’IA possa davvero rappresentare rischi esistenziali

Tutto questo sembra piuttosto assurdo. L’IA potrebbe davvero causare conseguenze così gravi da portare all’estinzione umana?

L’argomentazione che abbiamo esposto in precedenza — secondo cui gli effetti trasformativi dell’IA potrebbero creare sfide senza precedenti che minacciano la sopravvivenza dell’umanità — ci sembra convincente. Ma vale sempre la pena sottoporre a un controllo di plausibilità le argomentazioni audaci e provocatorie. Un modo per farlo è vedere cosa dicono in proposito gli esperti del settore e altri leader. Quindi: cosa dicono?

Diverse istituzioni di spicco stanno già considerando l’IA di frontiera come una fonte di rischi catastrofici:

• Ricercatori e amministratori delegati Più di 1 000 scienziati dell’IA e leader del settore — tra cui Geoffrey Hinton, Yoshua Bengio, Sam Altman e Demis Hassabis — hanno firmato l’avvertimento del Center for AI Safety, secondo cui “mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale al pari delle pandemie e della guerra nucleare”.
• Governi nazionali. Al Vertice sulla sicurezza dell’IA del governo britannico, 28 paesi (compresi Stati Uniti e Cina) hanno rilasciato la Dichiarazione di Bletchley, riconoscendo il “potenziale di danni gravi, persino catastrofici” derivanti dai modelli di frontiera e impegnandosi in un lavoro congiunto di mitigazione dei rischi.
• Azione esecutiva degli Stati Uniti L’ordine esecutivo del 30 ottobre 2023 del presidente Biden ha obbligato i laboratori statunitensi a condividere i risultati dei test di sicurezza con il governo prima di rilasciare sistemi potenti — una misura senza precedenti al di fuori della biosicurezza o della sicurezza nucleare. Anche l’amministrazione del presidente Donald Trump ha deciso di trattare l’intelligenza artificiale come una potenziale minaccia alla sicurezza nazionale, nonostante sembrasse scettica sull’idea che l’IA potesse comportare rischi catastrofici.

Alcuni leader non sono d’accordo:

Il capo scienziato di Meta Yann LeCun, ad esempio, ha definito “assurde” le preoccupazioni sull’estinzione, sostenendo che l’IA può essere progettata per essere sicura.

Altri scienziati influenti, come Gary Marcus, Andrew Ng e Melanie Mitchell hanno espresso scetticismo riguardo ai potenziali rischi esistenziali e agli effetti trasformativi dell’IA.

I sondaggi tra i ricercatori di IA indicano probabilità di estinzione non trascurabili:

Katja Grace di AI Impacts ha intervistato 2 778 ricercatori nel campo dell’IA su una serie di questioni chiave del settore. Il rispondente mediano ha attribuito una probabilità di almeno il 5 % al fatto che l’IA avanzata possa portare all’estinzione umana (o a un disastro paragonabile), e tra un terzo e la metà dei partecipanti ha valutato il rischio al 10 % o più.

È possibile che i ricercatori nel proprio campo stiano esagerando il pericolo — o sottovalutandolo. Tuttavia, questo livello di preoccupazione dovrebbe spingerci a prendere il rischio molto sul serio.

Gli esperti di previsioni ne prendono atto (ma dubitano dei rischi):

Il Forecasting Research Institute ha condotto l’Existential Risk Persuasion Tournament nel 2022 per indagare i disaccordi su questo argomento.

Nel complesso, è emerso che l’IA ha suscitato la più alta preoccupazione riguardo al rischio esistenziale tra i partecipanti rispetto a tutti gli altri argomenti trattati. Ma c’è stata una forte divergenza di opinioni sui rischi tra gli esperti di IA e le persone con una solida esperienza di superprevisione:

• In media, gli esperti di IA hanno stimato una probabilità del 3 % che l’IA causi l’estinzione umana entro il 2100, mentre i super-previsori l’hanno fissata ad appena lo 0,38 %.
• Entrambi i gruppi hanno concordato sull’alta probabilità che un’“IA potente” venga sviluppata entro il 2100 (circa il 90 %).
• Anche gli scettici sul rischio legato all’IA stimavano al 30 % la probabilità di esiti catastrofici dovuti all’IA in un arco temporale di 1 000 anni.

Si noti, tuttavia, che dati gli sviluppi nell’IA dal 2022, ci aspetteremmo che entrambi i gruppi ora prevedano tempi significativamente più brevi per un’IA potente. Riteniamo che ciò aumenterebbe probabilmente le loro stime dei rischi.

Panoramica generale:

Molti leader ed esperti riconoscono il potenziale dell’IA di comportare rischi importanti, compreso quello dell’estinzione umana. Ma a differenza di altri problemi che l’umanità deve affrontare, come il cambiamento climatico, questa non è una questione di consenso scientifico: c’è un disaccordo in corso e molte persone credibili ritengono che i rischi siano inferiori a quanto pensiamo noi.

Tuttavia, data la posta in gioco, riteniamo che sarebbe avventato scartare l’idea che l’IA possa causare esiti come l’estinzione umana. Anche una probabilità relativamente bassa di catastrofe merita di essere presa sul serio.

Tutto questo parlare dell’IA che cambia il mondo non è forse solo una moda passeggera?

Alcuni ritengono che argomentazioni come quelle contenute in questo articolo siano solo una risposta all’attuale ondata di clamore per l’IA e non resisteranno alla prova del tempo.

È possibile che abbiamo aggiornato le nostre convinzioni in modo eccessivo sulla base degli ultimi sviluppi dell’IA, e che le nostre previsioni possano rivelarsi errate. Ma vale la pena notare che le idee di base di questo articolo non sono particolarmente nuove o esclusive del nostro periodo storico. Pensatori di spicco ci mettono in guardia sui pericoli e sul potenziale trasformativo dell’IA fin dal 1800:

• 1863: Il romanziere inglese Samuel Butler ipotizzò in una lettera che le macchine avrebbero finito per superare l’umanità, e che gli esseri umani sarebbero diventati una “specie inferiore”.
• 1920: Il drammaturgo Karel Čapek, che coniò la parola “robot”, scrisse un dramma in cui i lavoratori artificiali si ribellano fino a causare l’estinzione umana.
• 1940–1950: Issac Asimov scrisse una serie di racconti sull’intelligenza artificiale e sui robot, che sottolineavano la necessità di garantirne la sicurezza per l’umanità e suggerivano che avrebbero sviluppato la capacità di guidare il futuro dell’umanità.
• 1950: John von Neumann, fisico e matematico prolifico e di grande influenza, avrebbe detto: “Il progresso sempre più rapido della tecnologia e i cambiamenti nello stile di vita umano […] danno l’impressione di avvicinarci a una sorta di singolarità fondamentale nella storia dell’umanità”.
• 1951: Alan Turing, considerato il padre dell’informatica teorica, scrisse: “sembra probabile che, una volta avviato il metodo di pensiero delle macchine, non ci vorrebbe molto a superare le nostre deboli capacità… A un certo punto, quindi, dovremmo aspettarci che le macchine prendano il controllo…”
• 1965: Il matematico I.J. Good disse: “Poiché la progettazione di macchine è una di queste attività intellettuali, una macchina ultraintelligente potrebbe progettare macchine ancora migliori; ci sarebbe allora senza dubbio un’“esplosione di intelligenza” e l’intelligenza umana rimarrebbe molto indietro.”

Non consideriamo nessuna di queste affermazioni come una forte prova a sostegno della tesi che l’IA comporti rischi esistenziali. Dopotutto, molti personaggi storici — persino scienziati estremamente intelligenti e influenti — hanno avuto convinzioni errate sul futuro.

Ma ci dimostrano che l’argomentazione secondo cui tutto questo sia “solo una moda” non regge a un esame approfondito.

L’IA non sarà semplicemente come ogni altra tecnologia?

Per certi versi, sì — ma questo non significa che non dovremmo preoccuparcene.

Come molte altre tecnologie, l’IA ha avuto i suoi cicli di clamore e di crisi. Alcuni pensano che l’attuale traiettoria di elevati investimenti e rapidi progressi potrebbe esaurirsi, e persino essere seguita da un altro “inverno dell’IA.”

Ma questo non è un buon motivo per ignorare i rischi. Sebbene sia probabile che alcuni dei motori del progresso dell’IA finiranno per rallentare, riteniamo che ci sia una buona probabilità che avremo già l’IAG (o qualcosa di simile) quando ciò accadrà. E a quel punto, potremmo già trovarci di fronte a sfide importanti per le quali vorremmo essere più preparati.

Vale anche la pena notare che l’IA non ha bisogno di essere fondamentalmente diversa dalle tecnologie precedenti per cambiare il mondo e comportare rischi davvero seri. Dopotutto, altre tecnologie di uso generale come il motore a vapore lo hanno già fatto in passato: la rivoluzione industriale ha alimentato una crescita enorme, ma ha anche innescato il cambiamento climatico e gettato le basi per l’invenzione delle armi nucleari.

Anche se l’IA fosse “solo” un’altra tecnologia di uso generale, potrebbe essere altrettanto d’impatto. E già solo questo sarebbe un fatto di grande importanza.

Ma riteniamo che ci siano modi in cui l’IA potrebbe essere realmente diversa da qualsiasi cosa l’umanità abbia visto in precedenza, rendendola potenzialmente più trasformativa e più rischiosa delle tecnologie precedenti.

Innanzitutto, come sostenuto nelle sezioni 1, 2 e 3, i sistemi di IA potrebbero effettivamente assumere il controllo dei processi di innovazione e produzione economica — il che significa che il progresso non dipenderebbe più dal lavoro umano e potrebbe avvenire molto più rapidamente che mai.

E anche se si è scettici riguardo a questa particolare narrazione, sembra comunque difficile negare che stia accadendo qualcosa di senza precedenti. Per la prima volta, stiamo progettando una nuova forma di intelligenza che potenzialmente supererà la nostra. Potremmo trovarci di fronte a una nuova popolazione di agenti altamente capaci con i propri interessi — e forse anche la capacità di provare benessere e sofferenza. In un certo senso, potrebbero essere nostri concorrenti. E le dinamiche che ne scaturirebbero potrebbero essere diverse da qualsiasi cosa l’umanità abbia mai dovuto affrontare prima.

È davvero possibile produrre un’intelligenza artificiale generale?

Si dice fin dagli anni ‘50 che un’intelligenza artificiale più intelligente degli esseri umani è proprio dietro l’angolo.

Ma non è ancora successo.

Alcuni sostengono che produrre un’intelligenza artificiale generale sia fondamentalmente impossibile. Altri pensano che sia possibile in teoria, ma improbabile che accada realmente, soprattutto non con gli attuali metodi di apprendimento profondo.

Tuttavia, riteniamo che ci siano ragioni convincenti per credere che l’IAG sia realizzabile:

• L’esistenza dell’intelligenza umana dimostra che l’intelligenza generale è almeno possibile in linea di principio. I cervelli umani sono costituiti da materia ordinaria che segue le stesse leggi fisiche dei computer.
• Sebbene le previsioni passate fossero eccessivamente ottimistiche riguardo al tempo necessario, non erano necessariamente errate riguardo alla possibilità fondamentale dell’IAG. Il settore ha incontrato ostacoli sin dall’inizio, ma i ricercatori hanno trovato il modo di aggirarli utilizzando metodi nuovi e creativi — e ora hanno accesso a una potenza di calcolo molto maggiore per condurre esperimenti e addestrare nuove IA di quanto avremmo potuto immaginare qualche decennio fa.
• Negli ultimi anni, abbiamo assistito a progressi che riteniamo non sarebbero stati previsti da coloro che credevano che un’IA potente e generale non sarebbe mai stata sviluppata. Ad esempio, i modelli linguistici di grandi dimensioni hanno dimostrato comportamenti emergenti che non erano stati esplicitamente programmati, come l’apprendimento few-shot, il ragionamento analogico e il trasferimento tra aree.
• Sebbene alcuni sostengano che gli attuali metodi di IA non riusciranno mai a cogliere certe forme di ragionamento intelligente, queste critiche si sono spesso rivelate errate. Ad esempio, Yann LeCun ha affermato nel 2022 che i modelli basati sull’apprendimento profondo come ChatGPT non sarebbero mai stati in grado di dirti cosa sarebbe successo se avessi posizionato un oggetto su un tavolo e poi avessi spinto quel tavolo, poiché una situazione così elementare non era mai stata descritta esplicitamente nel testo — ma GPT-4 ora è in grado di guidare gli utenti con facilità attraverso scenari come questo. Come afferma il ricercatore di IA Leopold Aschenbrenner: “se c’è una lezione che abbiamo imparato dall’ultimo decennio di IA, è che non si dovrebbe mai scommettere contro l’apprendimento profondo.”

C’è una reale incertezza in questo ambito, e gli scettici potrebbero avere ragione nel sostenere che ci sono alcune cose che i sistemi avanzati di IA non riusciranno mai a realizzare. Ma affinché l’IA trasformi il mondo, la domanda importante non è se riusciremo a replicare esattamente ogni aspetto della cognizione umana, ma se saremo in grado di creare sistemi capaci di:

• Eguagliare o superare le prestazioni umane nei compiti più importanti per la ricerca scientifica, la produttività economica e gli altri ambiti in cui l’intelligenza è più preziosa
• Svolgere tali compiti più velocemente o a costi inferiori di quanto possano fare i lavoratori umani
• Lavorare in modo sufficientemente autonomo da far sì che il progresso nei campi che automatizzano non sia più ostacolato dalla velocità del lavoro umano

Tutte e tre queste cose sembrano piuttosto possibili.

E persino questo potrebbe non essere necessario affinché l’IA ponga rischi seri — o addirittura su scala esistenziale. Ad esempio, la nostra tesi secondo cui le persone potrebbero fare un uso catastrofico dell’IA dipende principalmente dal fatto che i sistemi di IA diventino strumenti utili per la progettazione di armi. Un’IA eccellente nell’assistere gli esseri umani nella ricerca biotecnologica potrebbe rendere molto più facile per le persone sviluppare agenti patogeni pericolosi — indipendentemente da quanto sia efficiente in altri tipi di ricerca, o da quanta supervisione umana richieda.⁠⁠19)

Quindi, anche se pensi che non costruiremo mai IA che siano pienamente generali o completamente autonome, i rischi potrebbero comunque essere estremamente gravi.

Anche se l’IAG fosse realizzabile, cosa succederebbe se fossimo molto lontani dal costruirla?

C’è un dibattito acceso su quando svilupperemo l’“IAG” (o altri sistemi di IA avanzati in grado di trasformare il mondo nei modi che abbiamo descritto).

Pensiamo che ci siano buone possibilità che ciò accada presto — forse entro il prossimo decennio. E non siamo gli unici.

Ma vale la pena considerare altre possibilità. Ad esempio, il ricercatore Ege Erdil ha avanzato un’argomentazione influente secondo cui l’IAG è ancora lontana diversi decenni. E alcune persone pensano che sia ancora più lontana di così.

Inoltre, anche chi ritiene probabile che l’IAG (o qualcosa di simile) arrivi presto, tende a pensare anche che sia altrettanto probabile che ci voglia un po’ di tempo. Le loro ‘distribuzioni di probabilità’ relative all’arrivo dell’IAG hanno solitamente una forma simile a questa:

Anche se l’IAG è ancora lontana molti decenni, pensiamo che trasformerà comunque il mondo quando arriverà e che creerà sfide senza precedenti. Ma in questo arco di tempo più lungo, il lavoro per affrontare queste sfide sarebbe meno urgente, perché avremmo più tempo per prepararci.

Nonostante ciò, riteniamo comunque che per molte persone abbia senso concentrarsi sui rischi legati all’IA ora. Questo perché:

• C’è un’enorme incertezza su quanto tempo ci vorrà per sviluppare l’IAG. Dobbiamo prepararci all’eventualità che ciò accada molto presto, in modo da essere coperti negli scenari peggiori.
• Alcuni problemi legati all’IA avanzata potrebbero semplicemente richiedere molto tempo per essere risolti. Le sfide tecniche complesse potrebbero richiedere molti anni di ricerca per essere risolte, e alcune questioni di governance potrebbero richiedere una riprogettazione del funzionamento delle nostre istituzioni — cosa che non avverrà dall’oggi al domani. Impegnarci di più ora ci darà maggiori possibilità di gestire i rischi in modo competente quando inizieranno a emergere.
• Molte persone che tra un decennio potrebbero dare un grande contributo dovrebbero iniziare ora, specialmente se sono all’inizio della loro carriera. Ci vuole tempo per accumulare esperienza e capitale di carriera, quindi “abbiamo ancora anni di tempo” non è una ragione per non cominciare.

Il vero pericolo non deriva dall’intelligenza artificiale attuale — piuttosto che da una sorta di IAG futuristica?

L’intelligenza artificiale attuale comporta sicuramente dei pericoli.

Ad esempio:

• L’IA è stata spesso collegata a preoccupazioni relative alla sicurezza dei bambini, con segnalazioni di chatbot basati sull’IA che generano immagini sessualizzate di bambini, coinvolgono minori in conversazioni a sfondo sessuale e, in alcuni casi, incoraggiano persino utenti adolescenti emotivamente dipendenti da essi a suicidarsi.
• I dati utilizzati per l’addestramento delle reti neurali spesso contengono pregiudizi nascosti. Ciò significa che i sistemi di IA possono apprendere questi pregiudizi — e questo può portare a comportamenti razzisti e sessisti.
• I modelli di IA vengono addestrati su materiale protetto da copyright senza autorizzazione né compenso, sollevando seri interrogativi sui diritti di proprietà intellettuale e minacciando il sostentamento di artisti, scrittori e creatori.
• Gli strumenti di IA rendono più facile mettere in atto truffe sofisticate su larga scala — come video deepfake che impersonano dirigenti aziendali per autorizzare trasferimenti di denaro fraudolenti.

Questi pericoli sono reali e gravi — e molte persone dovrebbero concentrarsi sull’affrontarli. Tuttavia, continuiamo a ritenere che il volume di lavoro dedicato ai rischi legati all’IA a lungo termine debba aumentare in modo significativo.

La buona notizia è che non sempre c’è un grande compromesso tra l’affrontare i rischi legati all’IA a breve o a lungo termine. Gran parte del lavoro orientato alle minacce esistenziali derivanti dai sistemi di IA è anche rilevante per risolvere i problemi relativi ai sistemi di IA esistenti. Ad esempio, alcune ricerche sulla sicurezza dell’IA si concentrano sul garantire che i modelli di IA facciano ciò che vogliamo che facciano, e che continuino a farlo man mano che le loro dimensioni e capacità aumentano; altre ricerche cercano di capire come e perché i modelli esistenti stanno compiendo le azioni che compiono. Entrambe queste cose ci aiuterebbero a impedire che i futuri sistemi di IA prendano il potere — ma probabilmente ci aiuterebbero anche a impedire che gli attuali sistemi di IA discriminino i gruppi emarginati o sfruttino gli utenti vulnerabili.

Riteniamo inoltre che i pericoli attuali siano solo la punta dell’iceberg. Man mano che i sistemi di IA diventano più potenti, i rischi potrebbero diventare sempre più gravi. Come abbiamo sostenuto, i sistemi futuri sembrano poter rappresentare una minaccia non solo per i singoli esseri umani, ma anche per l’esistenza stessa dell’umanità — ad esempio, rendendo possibile una pandemia catastrofica che spazzerebbe via gran parte della popolazione, o aiutando un piccolo gruppo a instaurare un regime autoritario di lunga durata.

In definitiva, non tutto il lavoro sui rischi futuri si tradurrà agevolmente in progressi sulle questioni odierne. Ma abbiamo tempo limitato nelle nostre carriere, e scegliere su quale problema concentrarsi potrebbe essere un modo importante per aumentare il proprio impatto. E sembra importante per molte persone (anche se non tutte!) concentrarsi sull’affrontare le possibilità peggiori. Leggi di più sul perché pensiamo sia appropriato stabilire delle priorità tra le questioni.

Il progresso tecnologico è un bene per l’umanità

Gli ottimisti tecnologici sottolineano che le tecnologie del passato hanno generalmente migliorato la vita, invece che peggiorarla. Perché l’IA dovrebbe essere diversa?

Sebbene la tecnologia abbia effettivamente portato molti benefici, ha anche creato nuovi rischi e sfide. Le armi nucleari ci hanno dato sia l’energia nucleare che la minaccia di una guerra nucleare. Le scienze biomediche avanzate hanno curato molte malattie, ma aumentano anche il rischio di armi biologiche e di fughe disastrose di agenti patogeni pericolosi. L’allevamento intensivo ha reso la carne più economica, ma rappresenta anche una catastrofe morale per gli animali stessi e comporta molti effetti collaterali negativi per l’uomo.

Conveniamo che la tecnologia abbia di solito portato benefici all’umanità nel suo complesso, ma la domanda è se lo farà anche in questo caso.

Esistono abbastanza precedenti di sviluppi tecnologici pericolosi da indurci alla cautela; inoltre, come abbiamo discusso sopra, in questo caso sussistono motivi specifici di preoccupazione. Data la potenziale scala e velocità dello sviluppo dell’IA, il margine di errore potrebbe essere più ridotto rispetto a quello delle tecnologie precedenti.

Tutto questo sembra troppo fantascientifico

Il fatto che qualcosa sembri fantascienza non è di per sé un motivo per scartarla a priori. Ci sono molti esempi di cose menzionate per la prima volta nella fantascienza che poi si sono effettivamente verificate (questo elenco di invenzioni nella fantascienza ne contiene moltissimi).

Esistono persino alcuni casi di questo tipo che riguardano la tecnologia e che oggi rappresentano vere e proprie minacce esistenziali:

• Nel suo romanzo del 1914 The World Set Free, H. G. Wells predisse che l’energia atomica avrebbe alimentato potenti esplosivi — 20 anni prima che ci rendessimo conto che, in teoria, potessero verificarsi reazioni a catena di fissione nucleare, e 30 anni prima che le armi nucleari fossero effettivamente prodotte. Negli anni ‘20 e ‘30, i fisici vincitori del Premio Nobel Millikan, Rutherford ed Einstein erano unanimi nel prevedere che non saremmo mai stati in grado di utilizzare l’energia nucleare. Le armi nucleari erano letteralmente fantascienza prima di diventare realtà.
• Nel film del 1964 Il dottor Stranamore, l’URSS costruisce una macchina apocalittica che innescherebbe automaticamente un evento nucleare tale da causare l’estinzione in risposta a un attacco nucleare, ma la tiene segreta. Il dottor Stranamore fa notare che tenerla segreta, di fatto, ne riduce l’effetto deterrente. Ma ora sappiamo che negli anni ’80 l’URSS costruì un sistema estremamente simile… e lo tenne segreto.

È ragionevole, quando si sente qualcosa che sembra fantascienza, voler indagare a fondo prima di agire. Ma una volta indagato, se le argomentazioni sono solide, il semplice fatto che sembri fantascienza non è un motivo per scartarle.

Ha senso dedicare la mia carriera a risolvere un problema basato su una storia speculativa riguardo a qualcosa che potrebbe o meno accadere?

Non sappiamo mai con certezza cosa accadrà in futuro. Quindi, purtroppo per noi, se cerchiamo di avere un impatto positivo sul mondo, ciò significa che dobbiamo sempre fare i conti con almeno un certo grado di incertezza.

Riteniamo inoltre che vi sia un’importante distinzione tra garantire di aver ottenuto un certo risultato positivo e fare del proprio meglio. Per ottenere il primo, non si può correre alcun rischio — e ciò potrebbe significare perdere le migliori opportunità di fare del bene.

Quando si ha a che fare con l’incertezza, ha senso pensare approssimativamente al valore atteso delle proprie azioni: la somma di tutte le potenziali conseguenze positive e negative delle proprie azioni, ponderate in base alla loro probabilità. Il valore atteso non è l’unico approccio da utilizzare — riteniamo infatti importante moderare le stime del valore atteso ricorrendo al buon senso e ad altre euristiche — ma è un indicatore davvero utile per valutare l’importanza di una determinata linea d’azione.

Dato che la posta in gioco è così alta e le probabilità dei rischi legati all’IA non sono così basse, il valore atteso di contribuire a risolvere questo problema è alto.

Comprendiamo la preoccupazione che, se si lavora sull’IA, si potrebbe finire per non fare granché, mentre si sarebbe potuto fare un bene enorme lavorando su qualcosa di più certo. Ma pensiamo che il mondo sarà in uno stato migliore se alcuni di noi lavoreranno alla risoluzione di questi problemi, in modo che insieme abbiamo le migliori possibilità di gestire con successo la transizione verso un mondo con IA avanzata, piuttosto che rischiare una crisi esistenziale.

OK, l’IA potrebbe comportare rischi esistenziali. Ma la questione X non è forse un problema ancora più grave?

Potresti pensare che non abbia senso concentrarsi sui rischi legati ai futuri sistemi di IA, quando il mondo deve affrontare tante altre sfide.

Ad esempio, potresti voler fare tutto il possibile per prevenire il maggior numero di morti e sofferenze che si stanno verificando adesso. Questo probabilmente ti porterebbe a dare la priorità ad affrontare l’allevamento intensivo o persino la sofferenza degli animali selvatici, poiché queste questioni riguardano danni attuali e sono anche incredibilmente trascurate rispetto alla loro scala.

Anche se volessi concentrarti sul garantire un futuro positivo per l’umanità, potresti ritenere che i rischi legati ai futuri sistemi di IA siano semplicemente troppo incerti. In tal caso, probabilmente sceglieresti di lavorare su minacce che sembrano più concrete in questa fase, come le guerre catastrofiche.

È certamente ragionevole dare la priorità a qualcos’altro piuttosto che ai rischi legati all’IA. Sarebbe arrogante affermare di aver compreso tutti i problemi del mondo abbastanza bene da sapere che i più urgenti derivino sicuramente tutti da un’IA potente.

Ma continuiamo a pensare che concentrarsi sui rischi derivanti dall’IA avanzata sia spesso una scommessa che valga la pena fare, perché:

• Come abbiamo spiegato, esiste una possibilità concreta che i futuri sistemi di IA possano causare l’estinzione umana o farci perdere permanentemente il controllo sul futuro.
• E con il passare del tempo, sempre più ragioni teoriche di preoccupazione — come la possibilità di comportamenti ingannevoli nei sistemi di IA orientati al potere — si stanno concretizzando nella pratica.
• Se l’IA dovesse davvero trasformare il mondo, ciò probabilmente influenzerebbe tutte le altre sfide che la società deve affrontare e determinerebbe come queste possano o debbano essere affrontate. Ad esempio, ciò che accadrà con l’IA potrebbe determinare le capacità militari delle maggiori potenze mondiali, così come gli strumenti diplomatici che useranno per gestire i conflitti. Quindi garantire che l’IA potente sia gestita in modo responsabile potrebbe essere una componente fondamentale per affrontare molti altri problemi mondiali.

Non pensiamo che tutti coloro che leggono questo articolo debbano abbandonare ciò che stanno facendo per lavorare sui rischi legati all’IA, e siamo comunque entusiasti di vedere le persone compiere progressi su altri problemi urgenti. Ma se riesci a trovare un ruolo incentrato sui rischi legati all’IA che ti si addice davvero, pensiamo che ci siano ottime possibilità che quella sia la cosa dal maggiore impatto atteso che potresti fare.

Per saperne di più

• Preparing for the intelligence explosion di Will MacAskill e Fin Moorhouse
• Come i cicli di retroazione basati sull’intelligenza artificiale potrebbero mandare tutto all’aria in un batter d’occhio di Benjamin Todd
• L’anno più importante, una serie di Holden Karnofsky e altri autori
• Could advanced AI drive explosive economic growth? di Tom Davidson
• AI 2027 di Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland e Romeo Dean (siamo scettici sul fatto che le cose si svolgeranno così rapidamente come nello scenario qui descritto — e infatti, gli autori hanno pubblicato un modello aggiornato con previsioni più moderate su quando l’IA raggiungerà determinati traguardi in termini di capacità)
• La nostra sintesi della guida all’IA
• The case for AGI by 2030 di Benjamin Todd
• When do experts expect AGI to arrive? di Benjamin Todd

Ringraziamenti

Mille grazie a Cody Fenwick, che ha redatto una versione precedente di questo articolo (gran parte della quale è stata incorporata qui).

Grazie anche ad Arden Koehler, Adam Bales, Andreas Mogensen, Benjamin Todd, Niel Bowerman e Aaron Gertler per l’input.

---

Pubblicazione originale: Zershaaneh Qureshi (2026) How AI could create the world’s biggest problems, 80,000 Hours, 24 di febbraio.