Come sarà l’IA nel 2030?
Se l’aumento di scala continuerà fino al 2030, gli investimenti nell’IA raggiungeranno centinaia di miliardi di dollari e richiederanno gigawatt di potenza. I benchmark suggeriscono che l’IA potrebbe migliorare la produttività in settori di grande valore come ricerca e sviluppo in ambito scientifico.
Questo rapporto è stato commissionato da Google DeepMind. Tutti i punti di vista e le conclusioni espressi sono degli autori e non riflettono necessariamente la posizione o l’approvazione di Google DeepMind.
Introduzione
Cosa accadrà se l’aumento di scala dell’IA continuerà fino al 2030? Pubblichiamo un rapporto che esamina cosa comporterebbe tale aumento di scala in termini di potenza di calcolo, investimenti, dati, hardware ed energia. Esaminiamo inoltre le future capacità dell’IA rese possibili da tale sviluppo, in particolare in ricerca e sviluppo in ambito scientifico, un ambito prioritario per i principali sviluppatori di IA. Sosteniamo che l’aumento di scala dell’IA continuerà probabilmente fino al 2030, nonostante richieda infrastrutture senza precedenti, e offrirà capacità trasformative nella scienza e oltre.
L’aumento di scala proseguirà probabilmente fino al 2030: in base alle tendenze attuali, i modelli di IA di frontiera nel 2030 richiederanno investimenti per centinaia di miliardi di dollari e gigawatt di energia elettrica. Sebbene si tratti di sfide ardue, sono superabili. Tali investimenti saranno giustificati se l’IA riuscirà a generare corrispondenti rendimenti economici aumentando la produttività. Se i ricavi dei laboratori di IA continuassero a crescere al ritmo attuale, genererebbero rendimenti tali da giustificare investimenti di centinaia di miliardi di dollari nell’aumento di scala.
L’aumento di scala porterà a preziose capacità dell’IA: entro il 2030, l’IA sarà in grado di implementare software scientifici complessi a partire dal linguaggio naturale, assistere i matematici nella formalizzazione di bozze di dimostrazioni e rispondere a domande aperte sui protocolli biologici. Tutti questi esempi sono tratti da benchmark esistenti sull’IA che mostrano progressi, e una semplice estrapolazione suggerisce che saranno risolti entro il 2030. Prevediamo che le capacità dell’IA saranno trasformative in diversi campi scientifici, sebbene possa volerci oltre il 2030 per vederle impiegate a pieno regime.
Di seguito discutiamo alcuni dei risultati del rapporto.
L’aumento di scala dovrebbe continuare fino al 2030
In base alle tendenze attuali, i cluster utilizzati per l’addestramento dell’IA di frontiera costerebbero oltre 100 miliardi di dollari entro il 2030. Tali cluster potrebbero supportare sessioni di addestramento di circa 10^29 FLOP – una quantità di potenza di calcolo che avrebbe richiesto il funzionamento continuo del più grande cluster di IA del 2020 per oltre 3 000 anni. I modelli di IA addestrati su tali cluster utilizzerebbero una potenza di calcolo migliaia di volte superiore a quella di GPT-4 e richiederebbero gigawatt di energia elettrica.
Questo esemplifica uno schema ricorrente nei nostri risultati: se le tendenze odierne dovessero continuare, porterebbero a esiti estremi. Dobbiamo credere che continueranno? Nell’ultimo decennio l’estrapolazione è stata un solido punto di riferimento e, quando esaminiamo le argomentazioni a favore di un imminente rallentamento, queste spesso non risultano convincenti.
Di seguito riassumiamo alcune di queste argomentazioni e le nostre conclusioni tratte dal rapporto:
-
L’aumento di scala potrebbe «scontrarsi con un muro», ovvero i sistemi di IA potrebbero non riuscire a migliorare con ulteriori aumenti di scala. Tuttavia, i recenti modelli di IA hanno registrato notevoli miglioramenti nei benchmark e nei ricavi. Ciò potrebbe accadere, ma non vi è ancora alcuna prova evidente al riguardo.
-
Le riserve di dati per l’addestramento potrebbero esaurirsi. Tuttavia, vi è abbastanza testo pubblico generato da esseri umani per sostenere l’aumento di scala almeno fino al 2027, e i dati sintetici possono essere generati in grandi quantità e la loro utilità si è ulteriormente consolidata dopo l’invenzione dei modelli di ragionamento. È difficile escludere del tutto un collo di bottiglia dei dati, ma sembra superabile.
-
L’aumento di scala potrebbe essere ostacolato dall’energia elettrica. Se l’aumento di scala continuerà, le sessioni di addestramento di frontiera richiederanno gigawatt entro il 2030. Sarebbe difficile soddisfare tale fabbisogno, ma esistono modi per aumentare rapidamente la fornitura di energia, come il solare e le batterie, o la generazione a gas fuori rete. Inoltre, le sessioni di addestramento di IA di frontiera stanno già iniziando a essere distribuite geograficamente su più centri di calcolo, il che attenuerebbe le difficoltà. È improbabile che l’energia elettrica costituisca un collo di bottiglia prima del 2028 e il problema sembra risolvibile anche dopo tale data.
-
L’aumento di scala potrebbe diventare troppo costoso e gli sviluppatori di IA potrebbero smettere di investire. Questo è certamente possibile, ma finora non vi sono segni evidenti in tal senso. Se i ricavi degli sviluppatori di IA continuassero a crescere in linea con le tendenze recenti, eguaglierebbero gli oltre 100 miliardi di dollari di investimenti che estrapoliamo per l’addestramento di frontiera nel 2030. Una crescita dei ricavi dell’IA fino a centinaia di miliardi può sembrare estrema, ma se l’IA potesse migliorare la produttività in una parte significativa delle attività lavorative, il suo valore potrebbe ammontare a migliaia di miliardi di dollari.
-
Lo sviluppo dell’IA potrebbe spostare l’attenzione verso algoritmi più efficienti. Ma l’efficienza algoritmica sta già migliorando nell’attuale crescita della potenza di calcolo. Non vi è alcun motivo particolare per aspettarsi che il progresso algoritmico acceleri e, anche se ciò avvenisse, è probabile che questo finisca per incoraggiare l’uso di maggiore potenza di calcolo.
-
Le aziende di IA potrebbero riallocare la potenza di calcolo verso l’inferenza, ad esempio per l’esecuzione di modelli di ragionamento e altri prodotti. Tuttavia, attualmente l’addestramento e l’inferenza ricevono una potenza di calcolo comparabile, e vi sono ragioni per aspettarsi che l’addestramento e l’inferenza debbano scalare insieme. Scalare l’addestramento crea modelli di IA migliori, che saranno in grado di svolgere compiti di inferenza di maggior valore a costi più contenuti. Potrebbe esserci uno spostamento verso l’inferenza, ma sembra improbabile che scalare l’inferenza rallenti l’aumento di scala dell’addestramento.
Alla luce di quanto sopra, riteniamo che estrapolare le tendenze attuali al 2030 costituisca una solida previsione di base. E se tali tendenze dovessero continuare, ciò ci consentirà di estrapolare le capacità dell’IA, di cui discutiamo di seguito.
L’IA accelererà ricerca e sviluppo scientifici in diversi ambiti
Nel rapporto esaminiamo anche esempi concreti di come l’IA potrebbe migliorare la produttività. Ci concentriamo su ricerca e sviluppo scientifici, che rappresentano un obiettivo dichiarato di diversi tra i principali sviluppatori di IA.1 Le tendenze relative alle capacità suggeriscono che ci saranno progressi straordinari nell’IA per ricerca e sviluppo scientifici, in particolare in settori quali l’ingegneria del software e la matematica, dove è possibile addestrare l’IA su compiti realistici interamente in silico. Entro il 2030, i progressi registrati nei benchmark esistenti suggeriscono che l’IA sarà in grado di implementare software scientifici complessi a partire dal linguaggio naturale, assistere i matematici nella formalizzazione di bozze di dimostrazioni e rispondere a domande complesse su protocolli biologici.
Entro il 2030, prevediamo che molti settori scientifici disporranno di assistenti di IA paragonabili agli attuali assistenti alla programmazione per gli ingegneri del software. Ci saranno differenze rispetto all’ingegneria del software, ad esempio una maggiore attenzione alla revisione e alla sintesi di una letteratura ampia ed eterogenea, al contrario degli attuali strumenti di programmazione basati sull’IA che sono limitati principalmente al contesto di un singolo progetto. Tuttavia, vi sono importanti somiglianze: offrire suggerimenti in risposta al contesto, individuare informazioni rilevanti, portare a termine nella loro interezza compiti più piccoli e ben definiti.
Prevediamo che ciò, alla fine, porterà a un miglioramento della produttività del 10-20% nelle singole attività, sulla base dell’esempio dell’ingegneria del software.2 Anche se le mansioni lavorative di un matematico o di un biologo teorico sono meno suscettibili all’automazione rispetto a quelle di un ingegnere del software, abbiamo già prove che i benchmark pertinenti stanno migliorando, e ci aspettiamo ancora molti anni di progressi. Prevediamo che le capacità dell’IA saranno trasformative in diversi campi scientifici, sebbene possa volerci oltre il 2030 per vederle impiegate a pieno regime.
Di seguito presentiamo quattro esempi tratti dal rapporto: ingegneria del software, matematica, biologia molecolare e previsioni meteorologiche. Sebbene i benchmark selezionati non possano cogliere l’intera portata delle sfide di ciascun ambito, offrono un’idea delle crescenti capacità dell’IA e dei compiti che presto potrebbero essere automatizzati. I punteggi sono ricavati dalle classifiche e dalle schede dei modelli, limitando l’analisi ai modelli con le migliori prestazioni.
Ingegneria del software: L’IA sta già trasformando l’ingegneria del software attraverso gli assistenti alla scrittura di codice e i sistemi di risposta alle domande. Entro il 2030, secondo le tendenze attuali, l’IA sarà in grado di correggere autonomamente i problemi, implementare funzionalità e risolvere problemi di programmazione scientifica difficili (ma ben definiti).
Matematica: L’IA potrebbe presto fungere da assistente di ricerca, sviluppando bozze di dimostrazioni o intuizioni. I primi resoconti documentano già l’utilità dell’IA nel lavoro dei matematici. Matematici di spicco hanno opinioni molto diverse sulla rilevanza degli attuali benchmark matematici sull’IA per il proprio lavoro, così come sulle previsioni relative a quando l’IA sarà in grado di sviluppare risultati matematici in modo autonomo, anziché come assistente.
Biologia molecolare: I benchmark pubblici per l’interazione proteina-ligando, come PoseBusters, sono sulla buona strada per essere risolti nei prossimi anni, sebbene le tempistiche siano più lunghe (e incerte) per la previsione di interazioni proteina-proteina arbitrarie. Nel frattempo, stanno arrivando assistenti di ricerca documentale basati sull’IA per ricerca e sviluppo in biologia. I benchmark esistenti di risposta alle domande sui protocolli di biologia dovrebbero essere risolti entro il 2030. Sebbene questi benchmark non rappresentino l’intero spettro delle sfide nella biologia molecolare, le loro tendenze offrono una finestra specifica sulle crescenti capacità dell’IA nel settore.
Previsioni meteorologiche: Le previsioni meteorologiche basate sull’IA possono già superare i metodi tradizionali su archi temporali che vanno da poche ore a diverse settimane. Inoltre, i metodi basati sull’IA sono economici da eseguire e potrebbero migliorare ulteriormente con una maggiore disponibilità di dati. Le prossime sfide consistono nel migliorare le previsioni esistenti, in particolare quelle relative agli eventi rari, e nell’utilizzare previsioni più accurate per ottenere benefici su scala più ampia.
Un tema ricorrente in questo lavoro è che l’implementazione e l’impatto sociale potrebbero rimanere significativamente indietro rispetto alle capacità. Ad esempio, rispetto a ricerca e sviluppo farmaceutici, l’ingegneria del software presenta cicli di iterazione più brevi, non richiede esperimenti in laboratorio o sperimentazioni cliniche, raramente coinvolge sistemi critici per la sicurezza, spesso consente di verificare facilmente la correttezza approssimativa e dispone di abbondanti dati di addestramento. Per questi motivi, ci aspettiamo che pochi, se non nessuno, dei farmaci approvati per la vendita entro il 2030 avranno beneficiato degli attuali strumenti di IA, per non parlare di quelli del 2030. Tuttavia, è probabile che entro quella data le fasi iniziali di sviluppo registreranno effetti significativi derivanti dall’IA. In confronto, prevediamo che l’ingegneria del software cambierà radicalmente e ci aspettiamo un fiorire di software per ricerca e sviluppo scientifici, e più in generale.3
Conclusione
Entro il 2030, l’IA diventerà probabilmente una tecnologia chiave in tutti i settori dell’economia, presente in ogni aspetto dell’interazione delle persone con computer e dispositivi mobili. Se queste previsioni si avvereranno, sarà di vitale importanza che i principali decisori diano priorità alle questioni relative all’IA nell’affrontare i prossimi cinque anni e oltre.
Per saperne di più, leggi il rapporto completo qui.