Perché le opinioni divergono riguardo alla data in cui arriverà un’IA potente?
Pochi potrebbero negare che il progresso dell’IA negli ultimi anni sia stato rapido.
I modelli linguistici di grandi dimensioni (MLGD) hanno aperto una strada inaspettata verso capacità sempre più generali. Nel 2019, il GPT-2 di OpenAI faticava a scrivere un paragrafo coerente. Nel 2025, i MLGD scrivono saggi fluenti, superano gli esperti umani nelle domande scientifiche di livello post-laurea ed eccellono nelle competizioni matematiche e nella programmazione. I modelli di IA multimodale più avanzati producono ormai immagini e video difficilmente distinguibili dalla realtà.
Questi modelli sono notevoli (e utili!), ma sono ancora lontani dall’obiettivo finale verso cui puntano le aziende di IA di frontiera. L’intelligenza artificiale generale (IAG), che OpenAI descrive come «un sistema altamente autonomo che supera gli esseri umani nella maggior parte dei lavori economicamente più redditizi», è da molti decenni l’ambizione suprema dei ricercatori nel campo dell’intelligenza artificiale.
La maggior parte degli esperti concorda sul fatto che l’IAG sia possibile. Concorda inoltre sul fatto che avrà conseguenze trasformative. C’è meno consenso su quali saranno queste conseguenze. Alcuni ritengono che l’IAG inaugurerà un’era di abbondanza radicale. Altri credono che probabilmente porterà all’estinzione umana. L’unica cosa di cui possiamo essere certi è che un mondo post-IAG sarà molto diverso da quello in cui viviamo oggi.
Dunque, l’IAG è proprio dietro l’angolo? Oppure ci sono ancora problemi complessi da affrontare che richiederanno decenni per essere risolti, nonostante la rapidità dei recenti progressi? Si tratta di un tema al centro di un vivo dibattito. Chiedete a vari gruppi quando pensano che arriverà l’IAG e otterrete risposte molto diverse, che vanno da appena un paio d’anni a oltre due decenni.
Come mai? Abbiamo cercato di individuare alcuni dei principali punti di disaccordo.
Le argomentazioni a favore di tempistiche brevi
Molte delle persone più vicine all’IA di frontiera si aspettano che l’IAG arrivi prima del 2030.
Dario Amodei, amministratore delegato di Anthropic, è «fiducioso» che entro 2-3 anni si raggiungeranno capacità molto potenti. Sam Altman, amministratore delegato di OpenAI, ha affermato che la sua azienda «sa come costruire l’IAG» e ritiene che potremmo raggiungere un obiettivo ancora più ambizioso, quello della «superintelligenza», entro «migliaia di giorni». E Demis Hassabis, amministratore delegato di Google DeepMind, formula una previsione leggermente più prudente (ma comunque a breve termine) di 3-5 anni per l’IAG.
Due scenari di grande rilievo, Situational Awareness e AI 2027, redatti da esperti di previsioni e da ex dipendenti di aziende specializzate in IAG, formulano proiezioni simili.
Ecco alcuni motivi per ritenere che l’IAG possa essere a soli pochi anni di distanza:
#1 I benchmark continuano a saturarsi
L’argomentazione più semplice che un sostenitore delle tempistiche brevi possa avanzare è che – almeno per quanto riguarda le capacità che sappiamo misurare – non sembra davvero che ci resti ancora molta strada da fare.
Ecco un grafico che mostra la rapidità con cui le capacità dell’IA sono migliorate in vari benchmark soltanto negli ultimi due anni:
Nei benchmark accademici a risposta chiusa, le IA si stanno avvicinando al livello degli esperti umani. I modelli di punta di OpenAI, DeepMind e Anthropic ottengono tutti un punteggio superiore all’82% nel MMLU, che contiene domande a scelta multipla su una vasta gamma di discipline, dalla matematica al diritto internazionale, e superiore al 75% nel GPQA, che contiene domande di livello post-laurea nei campi STEM.
I benchmark si stanno saturando così rapidamente che i ricercatori si stanno affrettando a crearne di nuovi che continuino a mettere alla prova i modelli all’avanguardia. Ad esempio, Humanity’s Last Exam (HLE) contiene 2 500 domande fornite da oltre 1 000 esperti in materia, progettate per rappresentare la frontiera della conoscenza umana nella maggior parte dei campi – e i MLGD stanno già iniziando a compiere progressi. Il modello o3 di OpenAI ha ottenuto un punteggio del 20% su HLE, rispetto all’8% del suo predecessore, o1, rilasciato solo pochi mesi prima. I suoi creatori ritengono «plausibile» che un’IA raggiunga oltre il 50% su HLE entro la fine del 2025.
È importante sottolineare che i modelli di IA non si limitano a «memorizzare» le risposte alle domande dei benchmark come GPQA e HLE: i ricercatori mantengono set di test privati per assicurarsi che le soluzioni non finiscano nei dati di addestramento dei modelli.
Se i progressi continueranno al ritmo degli ultimi anni, non passerà molto tempo prima che diventi difficile trovare domande a risposta chiusa a cui i modelli di IA non possano rispondere. A quel punto, mancheranno solo le proprietà necessarie per mettere a frutto tutta quell’intelligenza grezza, come l’autonomia decisionale e la pianificazione a lungo termine. Fortunatamente per i sostenitori delle tempistiche brevi, disponiamo di prove di progressi anche su questi parametri – il che ci porta al punto successivo.
#2 Le IA sono in grado di portare a termine compiti sempre più lunghi
I punteggi impressionanti nei benchmark non si traducono automaticamente in un impatto nel mondo reale. Uno dei motivi è che i modelli di IA attualmente non sono in grado di portare a termine compiti su orizzonti temporali estesi. Anche se riescono a risolvere un singolo passaggio in modo più affidabile rispetto alla maggior parte degli esseri umani, non sono in grado di svolgere autonomamente compiti che richiederebbero giorni o settimane a una persona.
Ma la situazione potrebbe cambiare presto. Un recente studio di METR, un’organizzazione che sviluppa e conduce valutazioni sui modelli di IA di frontiera, ha rilevato che la lunghezza dei compiti che questi modelli riescono a portare a termine con successo raddoppia ogni sette mesi:
Se questa tendenza dovesse continuare, entro la fine del decennio le IA saranno in grado di portare a termine progetti della durata di un mese. Il processo potrebbe persino accelerare. Per il periodo 2024-25 in particolare, il tempo di raddoppio è stato di 4 mesi, il che porterebbe a prevedere che le IA saranno in grado di affrontare compiti della durata di un mese entro il 2027.
#3 La ricerca sull’IA potrebbe essere l’unica capacità che dobbiamo automatizzare per raggiungere l’IAG
L’obiettivo delle aziende di IA di frontiera è sviluppare sistemi di IA in grado di automatizzare ogni compito economicamente rilevante. Uno di questi compiti è la ricerca sull’IA stessa. Se riuscissimo ad automatizzare – o ad accelerare in modo significativo – il processo di sviluppo di un’IA migliore, allora qualsiasi ostacolo rimanente verso l’IAG potrebbe essere superato poco dopo.
Se un’azienda di IA sviluppasse internamente un sistema di IA in grado di superare i propri migliori ingegneri nel compito di far progredire la frontiera dell’IA, avrebbe un enorme incentivo ad automatizzare una parte significativa della propria ricerca. I ricercatori di IA automatizzati potrebbero lavorare giorno e notte senza pause e persino autoreplicarsi per sviluppare ciò che Geoffrey Hinton (uno dei pionieri del paradigma dell’apprendimento profondo che ha dato il via all’odierna accelerazione delle capacità dell’IA) definisce una «mente-alveare digitale».
Occorre molta più potenza di calcolo per addestrare un nuovo modello di IA che per eseguirlo. Un ricercatore di IA stima che entro il 2027 saremo in grado di far lavorare in parallelo milioni di ricercatori automatizzati, condensando anni di progressi in pochi giorni.
Ciò potrebbe innescare quella che a volte viene definita un’esplosione di intelligenza – un ciclo di retroazione ricorsivo in cui IA sempre più potenti costruiscono i propri successori. Un’esplosione di intelligenza potrebbe portare rapidamente a sistemi di IA di gran lunga più capaci degli esseri umani.
Le IA stanno già migliorando nelle competenze necessarie per automatizzare la ricerca sull’IA. L’anno scorso, METR ha testato modelli di frontiera, tra cui Claude Sonnet 3.5 di Anthropic e o1-preview di OpenAI, mettendoli a confronto con oltre 50 esperti umani. I risultati hanno dimostrato che i modelli stanno già superando gli esseri umani nelle attività di ricerca e sviluppo sull’IA su orizzonti temporali di 2 ore.
#4 Potremmo addestrare modelli molto più grandi prima del 2030
I sistemi di IA più potenti di oggi vengono addestrati utilizzando tre input – dati (principalmente testi provenienti da Internet), algoritmi (istruzioni per l’apprendimento da questi dati) e potenza di calcolo (i chip all’avanguardia utilizzati per alimentare l’intero processo).
Negli ultimi anni, abbiamo osservato che la quantità di potenza di calcolo utilizzata per addestrare i modelli è generalmente correlata alle loro capacità. Alcuni hanno addirittura concluso che la potenza di calcolo sia l’ingrediente più importante nel processo di sviluppo dell’IA: non conta tanto avere algoritmi ingegnosi o architetture appariscenti, quanto piuttosto aggiungere sempre più hardware.
Epoch stima che entro il 2030 sarà possibile addestrare modelli di IA utilizzando una potenza di calcolo 10 000 volte superiore a quella impiegata per GPT-4 di OpenAI. Si tratta di un salto paragonabile a quello che abbiamo osservato tra GPT-2, che riusciva a malapena a produrre un paragrafo coerente senza andare fuori tema, e GPT-4, che è in grado di cimentarsi in ragionamenti complessi, generare codice, superare esami standardizzati e intrattenere conversazioni dettagliate e ricche di contesto.
Se (come abbiamo sostenuto finora) non manca molto prima di raggiungere l’IAG o di automatizzare la ricerca sull’IA, è difficile immaginare che un ulteriore scalamento di 10 000 volte non ci porti a destinazione.
#5 Le tempistiche previste continuano ad accorciarsi
L’opinione degli esperti è un dato importante nel dibattito sulle tempistiche dell’IAG, ma è piuttosto sfumato. In primo luogo, esiste uno spettro di opinioni estremamente ampio – ed è proprio questo il punto centrale di questo articolo! In secondo luogo, non è chiaro cosa qualifichi una persona a formulare una previsione sull’arrivo dell’IAG. Molti tipi diversi di competenza potrebbero fornire spunti utili, dall’esperienza nella creazione di modelli di frontiera a un notevole storico di previsioni.
Se non riusciamo a individuare un’unica autorità alle cui previsioni affidarci, è difficile capire in che modo l’opinione degli esperti debba orientare le nostre previsioni. Tuttavia, una cosa che possiamo fare è osservare come le previsioni siano cambiate nel tempo. Sembrano convergere su un determinato periodo di tempo?
Adottare questa prospettiva conferisce una certa credibilità alla tesi delle tempistiche brevi. In un sondaggio del 2023 condotto da AI Impacts tra i ricercatori nel campo dell’apprendimento automatico, i partecipanti ritenevano che l’IAG sarebbe arrivata entro il 2047: un orizzonte che, secondo gli standard odierni, rientrerebbe nelle “tempistiche lunghe”. Nel sondaggio del 2022, invece, l’anno indicato era il 2060. Sulla piattaforma di previsioni Metaculus, la data prevista per lo sviluppo dell’IAG è stata anticipata di oltre due decenni rispetto al 2022:
Il coro di chi prevede tempistiche sempre più brevi è forte. Prendiamo Geoffrey Hinton e Yoshua Bengio, due vincitori del Premio Turing 2018 per l’apprendimento profondo, soprannominati i “padrini dell’IA”. Entrambi hanno ridotto le proprie tempistiche da molti decenni a soli cinque anni dopo il rilascio di ChatGPT (un momento di svolta per molti osservatori dei progressi dell’IA). In un recente post su Substack, l’ex membro del consiglio di amministrazione di OpenAI Helen Toner riflette su questa epidemia di riduzione delle tempistiche e cita diversi esempi di ex scettici che ora ritengono che l’IAG possa arrivare entro 10 anni.
Sebbene vi sia certamente un limite a quanto possiamo imparare dalle previsioni (soprattutto data la natura senza precedenti dell’IAG), vale sicuramente la pena notare che è molto più facile trovare esempi di tempistiche che si accorciano rispetto a tempistiche che si allungano.
Le argomentazioni a favore di tempistiche lunghe
Nonostante il grande entusiasmo (e l’allarme) per un’IAG a breve termine, non tutti ne sono convinti. Sebbene molti addetti ai lavori confidino in tempistiche brevi, i sondaggi condotti su campioni più ampi di esperti continuano a indicare tempistiche più lunghe, nonostante la tendenza al ribasso menzionata in precedenza!
Gli scettici sottolineano che i MLGD commettono ancora errori sciocchi, evidenziano gli ostacoli all’utilizzo delle IA per compiti del mondo reale e mettono in dubbio la plausibilità di un’esplosione di intelligenza.
Ecco alcuni motivi per ritenere che l’IAG possa essere ancora lontana decenni:
#1 I benchmark ci forniscono informazioni solo sulle capacità facilmente misurabili
I benchmark sono ideali per compiti chiaramente definiti, in cui il successo è facilmente verificabile. I modelli di IA sono particolarmente efficaci in questo tipo di compiti. Ciò vale soprattutto per i modelli di ragionamento più recenti, come o1 di OpenAI, che si basano in larga misura sull’apprendimento per rinforzo (AR).
Durante l’apprendimento per rinforzo, un modello impara a massimizzare la ricompensa attraverso tentativi ed errori. Ciò ha prodotto sistemi di IA superumani in ambiti ristretti, come AlphaGo e AlphaFold di DeepMind – e i ricercatori hanno recentemente scoperto che funziona meglio del previsto anche sui MLGD di uso generale. È molto più facile per un’IA apprendere tramite AR quando ciò che distingue una prestazione “buona” da una “cattiva” è indiscutibile. Se diamo a un’IA una montagna da scalare, lo farà. Questa è una delle ragioni per cui i modelli di ragionamento hanno mostrato miglioramenti di capacità estremamente impressionanti in ambiti come la matematica e la programmazione.
Ma gli scettici dell’IAG sottolineano che il mondo reale non è così ordinato. Pensate all’esperienza quotidiana del vostro lavoro. Potreste ricevere feedback diversi (o addirittura contrastanti) da varie persone. Probabilmente esiste più di un modo “giusto” per fornire un output. Imparerete cosa funziona e cosa no osservando gli impatti del vostro lavoro nel mondo reale, che potrebbero essere eterogenei.
Questa linea argomentativa ha costituito gran parte delle critiche mosse allo studio di METR che abbiamo menzionato in precedenza. Lo studio è stato utilizzato per dimostrare che le IA sono in grado di agire su orizzonti temporali sempre più lunghi – ma ha misurato esclusivamente le prestazioni in attività di ingegneria del software. Questo è proprio il tipo di attività in cui ci aspetteremmo che le IA siano competenti! Non è chiaro quanto questa tendenza possa generalizzarsi ad altre mansioni di valore economico.
Inoltre, i lavori nel mondo reale non sono facilmente suddivisibili in compiti distinti e autonomi. Al contrario, i compiti tendono a sovrapporsi e dipendono da una grande quantità di contesto che è difficile fornire a un’IA. Per questo motivo, non è così facile delegare ai modelli di IA anche le attività di breve durata. I MLGD sono esperti nella redazione di e-mail, ma chiedere a uno di essi di ricontattare un collega in merito a una discussione precedente è piuttosto difficile se l’IA non sa di cosa si sia discusso!
#2 I compiti facili per gli esseri umani sono difficili per le IA – e viceversa
Storicamente, ci si è sempre aspettati che il lavoro manuale venisse automatizzato molto prima di quello impiegatizio. Eppure, nel 2025, disponiamo di modelli linguistici in grado di risolvere questioni scientifiche di livello dottorale, ma non di robot in grado di assemblare mobili in modo affidabile.
Una persona che aveva previsto tutto questo era l’informatico Hans Moravec. Nel 1988 osservò che è molto più facile far raggiungere a un computer prestazioni da esperto in un gioco come la dama, piuttosto che dotarlo delle capacità percettive e motorie di base di un bambino di un anno. Questo principio divenne noto come Paradosso di Moravec: il ragionamento richiede una potenza di calcolo di gran lunga inferiore rispetto alle abilità sensomotorie.
Moravec ipotizzò che abilità come afferrare oggetti o aggirare ostacoli siano più difficili da replicare perché hanno impiegato molto più tempo per emergere attraverso il processo dell’evoluzione biologica. D’altra parte, gli esseri umani hanno acquisito le capacità di ragionamento astratto in tempi relativamente recenti. Più un’abilità è antica, maggiori sono le risorse di calcolo necessarie per ricostruirla.
Forse questo fenomeno ci ha dato una percezione distorta delle effettive capacità dei sistemi di IA odierni. Essere in grado di risolvere un problema di matematica a livello di dottorato ci sembra davvero notevole, perché la maggior parte degli esseri umani non è in grado di farlo. D’altra parte, caricare una lavastoviglie sembra un compito banalmente facile, perché la maggior parte di noi è in grado di farlo. Ma l’argomentazione di Moravec direbbe che questo in realtà non ci dice molto sulla difficoltà assoluta dei due compiti. Ciò implica che abbiamo sbloccato le capacità più semplici dell’IA e che la parte più difficile potrebbe essere ancora davanti a noi.
#3 Un’esplosione di intelligenza potrebbe non essere possibile
Finora abbiamo sostenuto che i tempi per raggiungere l’IAG potrebbero essere lunghi perché c’è ancora molta strada da fare rispetto a quanto suggeriscono i benchmark.
Tuttavia, ciò ignora l’argomentazione dell’esplosione di intelligenza affrontato in precedenza. Anche se ci sono molti ostacoli da superare prima di raggiungere una vera IAG, l’automazione della ricerca sull’IA potrebbe far sì che ci si arrivi comunque molto presto. Il fatto che le IA siano particolarmente abili in compiti facilmente misurabili, come la matematica e la programmazione, non fa che avvalorare questa tesi: si tratta proprio delle competenze di cui avranno bisogno per accelerare il progresso dell’IA.
Ma se un’esplosione di intelligenza sia effettivamente possibile resta una questione aperta. Come spiegato in precedenza, l’IA viene addestrata utilizzando tre input: dati, algoritmi e potenza di calcolo. È questo secondo elemento, gli algoritmi, a dipendere dal lavoro cognitivo. Oggi questo lavoro è svolto da ricercatori umani e in futuro potrebbe essere svolto da ricercatori automatizzati.
Ciò significa che la probabilità di un’esplosione di intelligenza dipende da una domanda chiave: quanti progressi algoritmici potrebbe compiere un team di ricercatori automatizzati mentre la potenza di calcolo e i dati rimangono invariati? La produzione di nuovi chip e la costruzione di centri di calcolo richiedono tempo, così come la raccolta di dati (o la generazione di dati sintetici, che potrebbe diventare essenziale se dovessimo esaurire del tutto i testi scritti da esseri umani!).
Uno studio ha rilevato che, storicamente, i maggiori progressi algoritmici sono dipesi dalla potenza di calcolo: per essere sviluppati e convalidati hanno richiesto un notevole scalamento dell’hardware. Se ciò dovesse continuare a essere vero anche in futuro, allora un’esplosione di intelligenza sembrerebbe meno plausibile.
Naturalmente, si tratta di un grande «se». È difficile prevedere cosa potrebbero realizzare numerosi ricercatori di IA automatizzati e superintelligenti che lavorano in parallelo. Potrebbero essere in grado di trovare molti modi ingegnosi per condurre esperimenti con una quantità fissa di potenza di calcolo, come l’utilizzo di tecniche di scaffolding per ottenere maggiori capacità dai modelli esistenti. Gli scettici riconoscono che un’esplosione di intelligenza sia una possibilità concreta, ma sottolineano che si tratta di un’ipotesi speculativa.
#4 L’intelligenza pura potrebbe non essere il motore principale della scoperta
Nello scenario a breve termine, sviluppiamo ciò che Dario Amodei definisce un «paese di geni in un centro di calcolo» che trasformerà il mondo svolgendo un’intensa attività di ricerca e sviluppo (R&S). Ad esempio, questi geni dell’IA potrebbero essere indirizzati a sviluppare nuovi farmaci, a trovare soluzioni energetiche sostenibili o a mettere a punto meccanismi di coordinamento che ci aiutino a evitare conflitti futuri (oppure, nello scenario peggiore, la ricerca potenziata dall’IA potrebbe rivoltarsi contro di noi).
Che le cose vadano davvero così dipende da cosa guida effettivamente le scoperte nel mondo reale. Gli scettici faranno notare che la ricerca e sviluppo è molto più che semplici persone brillanti che pensano intensamente. Una prova di ciò è il fenomeno della scoperta simultanea – spesso più persone giungono alla stessa intuizione in modo indipendente, all’incirca nello stesso momento. Per esempio, Isaac Newton e Gottfried Leibniz scoprirono entrambi il calcolo infinitesimale negli anni ‘60-‘70 del Seicento, mentre Charles Darwin e Alfred Russel Wallace descrissero entrambi la selezione naturale nel 1858.
Esistono molte teorie sul perché si verifichino scoperte simultanee. Una di queste è che la cultura avanza più velocemente della scoperta scientifica, creando un divario che le persone cercheranno poi di colmare con soluzioni tecniche o spiegazioni. Questo va contro l’idea che la pura capacità di pensiero di un “paese di geni in un centro di calcolo” possa effettivamente causare un’enorme accelerazione nella ricerca e sviluppo.
È stato inoltre fatto notare che il processo di ricerca e sviluppo richiede un insieme di competenze molto più ampio del semplice ragionamento astratto (il pane quotidiano dei modelli di ragionamento). I ricercatori umani dirigono gruppi di ricerca, raccolgono prove dagli esperimenti e così via. Forse questo significa che la ricerca e sviluppo in ambito scientifico non è affatto più facile da automatizzare di qualsiasi altra cosa. Ciò significherebbe che non dovremmo aspettarci una rapida trasformazione guidata dall’IA se non dopo che un’ampia gamma di lavori più di routine in tutta l’economia sarà stata automatizzata.
Quindi… chi ha ragione?
Molte persone intelligenti e qualificate hanno dedicato molto tempo a riflettere su quando arriverà l’IAG, giungendo a conclusioni molto diverse. Purtroppo, non ci sono prove conclusive né in un senso né nell’altro!
Lo sapremo presto. Molti ritengono che l’IAG si realizzerà prima del 2030 oppure richiederà molto più tempo. Questo perché probabilmente non potremo sostenere l’attuale ritmo di scalamento oltre questo punto. Entro cinque anni potremmo costruire cluster di potenza di calcolo del costo di mille miliardi di dollari. Questo è probabilmente vicino al limite di ciò che l’economia statunitense potrebbe sostenere. Ciò suggerisce che, se arrivassimo al 2030 senza l’IAG, la probabilità annuale inizierebbe a diminuire.
Ci sono ragioni di ogni tipo per pensare che l’attuale ritmo di progresso possa esaurirsi, ma non possiamo esserne certi. Esistono abbastanza argomentazioni a favore di un’IAG a breve termine da giustificare che questa possibilità venga presa estremamente sul serio – e questo è uno scenario per il quale il mondo è drasticamente impreparato. Non sappiamo come garantire che i sistemi di IA seguano in modo affidabile le nostre istruzioni. Non capiamo come funzionino. Non sappiamo come eviteremo le conseguenze peggiori derivanti dallo sviluppo dell’IAG, fino a includere l’estinzione umana.
L’IA sta diventando sempre più potente – e in fretta. Non sappiamo ancora come garantiremo che i modelli molto avanzati siano sicuri.
Abbiamo progettato un corso gratuito di 2 ore per aiutarti a capire come l’IA potrebbe trasformare il mondo nel giro di pochi anni. Inizia oggi stesso per partecipare alla discussione.