Come i cicli di retroazione basati sull’intelligenza artificiale potrebbero mandare tutto all’aria in un batter d’occhio

Quando le persone pensano all’intelligenza artificiale generale (IAG), credo che spesso immaginino una versione ancora più intelligente di ChatGPT. Ma non è in quella direzione che stiamo andando.

Le aziende di IA di frontiera stanno cercando di costruire un vero e proprio “lavoratore digitale” in grado di svolgere compiti complessi e aperti, come fondare un’azienda, supervisionare esperimenti scientifici o controllare apparecchiature militari. Se ci riuscissero, si creerebbero dinamiche totalmente diverse rispetto agli attuali modelli linguistici di grandi dimensioni e si avrebbero conseguenze molto più dirompenti.

Il motivo è l’effetto dei cicli di retroazione che potrebbero accelerare il ritmo del cambiamento sociale di 10 o addirittura 100 volte.

Il ciclo di retroazione che in passato ha ricevuto maggiore attenzione è quello del progresso algoritmico. Se l’IA potesse imparare ad auto-migliorarsi, secondo questa argomentazione, forse potrebbe innescare una singolarità che porterebbe rapidamente alla superintelligenza.

Ma ci sono altri cicli di retroazione che potrebbero comunque rendere le cose davvero folli (anche senza la superintelligenza), solo che potrebbero richiedere dai cinque ai 20 anni anziché pochi mesi. La tesi a favore di un’accelerazione è più solida di quanto la maggior parte delle persone creda.

Questo articolo illustrerà tre modi in cui un vero e proprio lavoratore di IA potrebbe trasformare il mondo e i tre cicli di retroazione che producono queste trasformazioni, riassumendo le ricerche degli ultimi cinque anni.

Sebbene la prima preoccupazione della maggior parte delle persone riguardo all’IAG sia la disoccupazione di massa, le cose potrebbero farsi molto più strane, ancor prima che la disoccupazione di massa diventi possibile. In gioco ci sono un ordine economico e un ritmo di cambiamento completamente nuovi, con importanti implicazioni sui modi migliori per fare del bene, a prescindere dai problemi di cui ti occupi oggi.

Nel corso dell’articolo, non cerco di valutare se o quando questo tipo di lavoratore digitale sarà pronto per essere impiegato; parto piuttosto dal presupposto che le sue capacità continueranno a progredire ed esploro ciò che succederà dopo.

1. L’esplosione di intelligenza

Cicli di retroazione algoritmici

Negli anni ‘60, Alan Turing e I. J. Good intuirono che se l’IA avesse iniziato a contribuire alla ricerca sull’IA stessa, i progressi in questo campo avrebbero subito un’accelerazione, portando l’IA a diventare ancora più avanzata e producendo, forse, una ‘singolarità’ nell’intelligenza.⁠⁠a All’epoca si trattava di un’argomentazione puramente teorica, ma negli ultimi cinque anni abbiamo acquisito una base empirica molto più solida su come questi (e altri) cicli di retroazione potrebbero funzionare.

Oggi le principali aziende di IA utilizzano già ampiamente l’IA per supportare la propria ricerca, specialmente nella stesura del codice per l’addestramento, nei test e nella strutturazione degli esperimenti.⁠1 Finora, l’incremento complessivo della produttività di questi ricercatori sembra ancora relativamente modesto, forse del 3–30 %.⁠⁠b Ma, man mano che gli strumenti di IA miglioreranno, questo incremento di produttività crescerà.

Ora immaginiamo che il processo vada avanti e che i modelli continuino a migliorare. Alla fine, diventeranno in grado di svolgere il lavoro di un ingegnere junior, poi di un ingegnere di livello intermedio, e da lì continueranno a migliorare.⁠⁠c

Se i modelli attuali potessero produrre un lavoro paragonabile a quello di un ingegnere di livello intermedio, allora, data la potenza di calcolo già disponibile oggi nei centri di calcolo, sarebbe possibile produrre risultati equivalenti a quelli di milioni di ingegneri competenti che lavorano alla ricerca sull’IA.⁠⁠d Oggi ci sono probabilmente meno di 10 000 ricercatori umani che lavorano sull’IA di frontiera, quindi sarebbe come se ogni ricercatore umano avesse a disposizione l’equivalente di 100 assistenti.

Immagina poi che l’IA continui a migliorare e che, alla fine, questi modelli arrivino a svolgere persino il lavoro dei migliori ricercatori, con una guida umana minima.

Nessuno sa esattamente di quanto ciò accelererebbe il progresso, ma molto dipende da un’unica domanda:

Se si raddoppia lo sforzo di ricerca dedicato agli algoritmi di IA (mantenendo costante il numero di chip), la qualità degli algoritmi almeno raddoppia?

Se la risposta è sì, allora ogni volta che il numero di ricercatori digitali di IA raddoppia, si sbloccano progressi che consentono di eseguire IA due volte più efficaci; questo, a sua volta, permette alla popolazione di ricercatori digitali di raddoppiare nuovamente, e così via, finché non ci si avvicina a qualche altro limite.

Esistono stime empiriche sui rendimenti della ricerca algoritmica passata che suggeriscono come, sebbene tale valore possa essere inferiore a uno, vi sia una buona probabilità che sia superiore — il che innescherebbe un ciclo di retroazione positiva.

La domanda successiva è quanto velocemente il ciclo di retroazione si esaurirà scontrandosi con altri vincoli. Il modello più completo di entrambi gli effetti che abbia mai visto è di Tom Davidson, che attualmente lavora presso Forethought, un istituto di ricerca con sede a Oxford fondato per studiare l’impatto dell’IA. Nel marzo 2025, Tom ha stimato che molto probabilmente vedremmo tre anni di progressi dell’IA condensati in un solo anno, con la possibilità di vederne fino a 10.⁠2

Che aspetto avrebbero tre anni di progressi in un solo anno? Man mano che gli algoritmi sono diventati più efficienti, il numero di modelli di IA che è possibile eseguire su un dato numero di chip è aumentato di oltre un fattore tre ogni anno negli ultimi cinque anni.⁠⁠e Quindi, se si partisse da 10 milioni di lavoratori digitali, condensare tre anni di progressi in uno significherebbe che, un anno dopo, se ne potrebbero eseguire circa 270 milioni.

Questi modelli sarebbero anche più intelligenti. Tre anni di progressi rappresentano più del divario tra l’originale GPT-4, che era pessimo in matematica, scienze e programmazione, e GPT-5, che è in grado di rispondere a domande scientifiche note meglio degli studenti di dottorato del settore e ha vinto l’oro alle Olimpiadi di matematica.⁠⁠f Una volta che l’IA si avvicinerà alla capacità di condurre ricerche sull’IA, potremmo assistere a questo tipo di balzo in meno di un anno, partendo da un punto in cui i modelli si trovano già all’incirca al livello umano.

Le prime discussioni vertevano sulla possibilità che ciò accadesse letteralmente dall’oggi al domani (‘foom’), ma oggi pochi ritengono che sia plausibile. Occorre ancora tempo per condurre esperimenti ed eseguire sessioni di addestramento. Il fenomeno potrebbe però svilupparsi su una scala di mesi, manifestandosi in un mondo che per il resto sembra simile a quello odierno e creando un enorme sconvolgimento — e il processo non si fermerà lì.

Cicli di retroazione sull’hardware

Oggi, il numero di chip per l’IA prodotti raddoppia all’incirca ogni anno.⁠⁠g Se questa tendenza continua e si possono eseguire 270 milioni di IA in un anno, allora se ne potrebbero eseguire circa 540 milioni l’anno successivo. Ci sarebbe anche il doppio della potenza di calcolo disponibile per l’addestramento delle IA, che quindi diventerebbero anche più intelligenti.

Se far funzionare ogni chip costa circa 2 dollari all’ora, ma ognuno di essi può svolgere il lavoro di un lavoratore della conoscenza umano, quei chip potrebbero generare 20 o addirittura 200 dollari di ricavi all’ora. La produzione di chip diventerebbe una delle massime priorità mondiali, attirando investimenti non nell’ordine delle centinaia di miliardi, ma dei trilioni di dollari. Le aziende di IA indirizzerebbero le centinaia di milioni di lavoratori di IA a loro disposizione verso l’obiettivo di accelerare il più possibile la produzione di chip, ed è quindi probabile che anche quest’ultima acceleri.⁠⁠h

Un maggior numero di chip genererebbe ricavi ancora più elevati, che permetterebbero di finanziare un numero ancora maggiore di chip, il che renderebbe l’IA ancora migliore. Questo è il ciclo di retroazione basato sull’hardware dei chip, ed è supportato da prove più solide rispetto a quello algoritmico:⁠⁠i

È probabile che questo ciclo di retroazione funzioni perché, ogni volta che la potenza di calcolo totale raddoppia, ne è disponibile il doppio sia per l’inferenza che per l’addestramento.⁠⁠j Una potenza di calcolo doppia per l’inferenza permette di eseguire un numero doppio di modelli, il che, in linea di massima, fa sì che questi possano generare (quasi) il doppio dei ricavi. Inoltre, una potenza di calcolo doppia per l’addestramento significa che quei modelli saranno più intelligenti ed efficienti; ciò li renderà più utili, portando probabilmente a un aumento ancora maggiore dei ricavi.

In effetti, sembra che questo stia già accadendo. Ogni anno, le aziende di IA di frontiera aumentano la potenza di calcolo a loro disposizione di circa 3-4 volte, ma i loro ricavi crescono di circa 4-5 volte all’anno.⁠⁠k

Inoltre, ogni volta che gli investimenti nei chip sono raddoppiati, la potenza di calcolo disponibile è aumentata in misura molto maggiore. Dal 1971 al 2011, gli investimenti nei semiconduttori sono aumentati di 18 volte, ma la potenza di calcolo di un chip è aumentata di un milione di volte grazie all’innovazione e alle economie di scala. L’articolo “Are ideas getting harder to find” mostra che il raddoppio degli investimenti nei chip informatici ha portato a un aumento di cinque volte della potenza di calcolo.⁠⁠l

Questi due effetti si sommano: ogni volta che le aziende di IA raddoppiano il proprio fatturato, possono reinvestire in chip che garantiranno loro più del doppio della potenza di calcolo nella generazione successiva. Quindi, ogni volta che la potenza di calcolo raddoppia, può essere utilizzata per far operare un numero più che doppio di lavoratori digitali di qualità superiore, in grado di generare a loro volta più del doppio del fatturato. (Almeno fino a quando non si raggiungeranno altri limiti, di cui parlerò più avanti.)

Dove potrebbe portare tutto questo?

Che avvenga tramite il ciclo di retroazione algoritmico o hardware, potremmo ritrovarci abbastanza rapidamente in un mondo con molti miliardi di lavoratori di IA che possono essere assunti per decine di centesimi all’ora. È possibile che queste IA raggiungano in tempi brevi quella che è stata definita “superintelligenza” artificiale (SIA): un’IA più capace degli esseri umani praticamente in ogni compito cognitivo. Questa non è più soltanto un’idea, ma l’obiettivo esplicito delle principali aziende di IA, che hanno raccolto centinaia di miliardi di dollari per perseguirlo.⁠⁠m

La superintelligenza potrebbe indicare IA capaci di intuizioni molto più profonde rispetto a quelle umane. Ma potrebbe anche riferirsi a IA più o meno altrettanto intelligenti, in grado però di superarci grazie ad altri vantaggi. Pensa alla persona più capace che conosci, poi immagina che possa aumentare la propria velocità di elaborazione per pensare sessanta volte più in fretta — un minuto per te sarebbe come un’ora per lui. Ora immagina che possa creare all’istante copie di se stesso, e che tutto ciò che una copia impara possa essere condiviso con le altre. Immagina un’azienda come Google, ma in cui l’amministratore delegato può supervisionare personalmente ogni dipendente, e in cui ogni dipendente è una copia della persona migliore per quel ruolo.

Che si arrivi a una superintelligenza o a un vasto numero di lavoratori digitali di livello umano meglio coordinati, questo processo è stato definito “esplosione di intelligenza”. Forse sarebbe più accurato chiamarla “esplosione di capacità”, perché l’IA non migliorerebbe solo nell’ambito dell’intelligenza accademica in senso stretto, ma anche nella creatività, nel coordinamento, nel carisma, nel buon senso e in qualsiasi altra competenza acquisibile.

Gli esperti del settore ritengono vi sia una probabilità del 40–60 % che la tesi sull’esplosione di intelligenza sia sostanzialmente corretta, e una probabilità del 10 % che l’IA diventi di gran lunga più capace degli esseri umani entro due anni dalla creazione dell’IAG⁠3 — per quanto a me questa stima sembri bassa.

2. L’esplosione tecnologica

Cosa accadrebbe dopo l’inizio di un’esplosione di intelligenza? Oggi nel mondo ci sono circa 10 milioni di scienziati.⁠⁠n Se queste centinaia di milioni di IA diventassero produttive quanto gli scienziati umani, il numero effettivo di ricercatori aumenterebbe di 100 volte (e continuerebbe a crescere). Sebbene esistano molti altri colli di bottiglia per la scienza oltre al numero di scienziati, ciò accelererebbe quasi certamente il ritmo del progresso tecnologico. Anche Forethought ha stimato che potremmo assistere a 100 anni di progresso tecnologico in meno di 10, e forse molto di più.⁠⁠o Potremmo chiamarla “esplosione tecnologica”.⁠⁠p

Per avere un’idea di quanto sarebbe incredibile, immagina per un momento che tutto ciò che è stato scoperto nel XX secolo fosse stato invece scoperto tra il 1900 e il 1910. La fisica quantistica e il sequenziamento del DNA, i computer e Internet, la penicillina e l’ingegneria genetica, gli aerei a reazione e i satelliti spaziali avrebbero tutti visto la luce nel giro di soli due o tre cicli elettorali.

Inizialmente, ciò potrebbe tradursi in strumenti di IA specializzati come AlphaFold, che ha risolto il problema del ripiegamento delle proteine ed è valso ai suoi creatori il Premio Nobel. Più di recente, uno studio ha rilevato che gli scienziati che utilizzavano l’IA producevano circa il 30 % di articoli in più nel 2024 rispetto a colleghi con un profilo simile che non la utilizzavano, e tali articoli erano, semmai, di qualità superiore.⁠4

Alla fine, tutto ciò potrebbe prendere la forma di modelli di IA in grado di rispondere a domande che gli esseri umani non sanno ancora affrontare, o di eseguire enormi quantità di esperimenti automatizzati, svolgendo in modo efficace un lavoro che in passato avrebbe richiesto centinaia di scienziati umani (o sarebbe stato del tutto impossibile). L’amministratore delegato di Anthropic ha delineato come questo scenario potrebbe configurarsi per la ricerca biomedica nel suo manifesto di ottimismo sull’IA “Machines of loving grace”.

Gran parte del lavoro intellettuale, come la matematica o la filosofia, potrebbe svolgersi virtualmente, e quindi progredire molto rapidamente. Tuttavia, le capacità di questi scienziati digitali verrebbero ben presto limitate dalla loro impossibilità di interagire con il mondo fisico. La robotica diventerebbe quindi l’attività più redditizia al mondo. Questo ci porta a…

3. L’esplosione industriale

Cicli di retroazione dei lavoratori robotici

Poco dopo lo scoppio della seconda guerra mondiale, le fabbriche automobilistiche americane furono convertite per produrre aerei militari. Oggi, le fabbriche automobilistiche producono circa 90 milioni di auto all’anno,⁠5 e se venissero convertite per produrre robot, potrebbero produrre da 100 milioni a un miliardo di robot a grandezza umana all’anno.⁠⁠q

Senza i robot, l’esplosione di intelligenza si esaurisce nel momento in cui l’intelligenza disincarnata smette di essere utile. Magari tutti hanno già a disposizione 100 dottori di ricerca che controllano ogni minima decisione. Il ricavo generato da un chip di IA aggiuntivo scenderebbe al di sotto del suo costo di produzione.

Tuttavia, l’IA combinata con la robotica avanzata può potenzialmente svolgere quasi ogni compito economicamente rilevante, inclusa la costruzione delle fabbriche, dei pannelli solari e degli impianti di produzione di chip necessari a creare ulteriori lavoratori robotici.

Ciò significa che se un gruppo di lavoratori robotici può svolgere un certo lavoro e guadagnare del denaro, questo può essere utilizzato per costruire altri lavoratori robotici. Tale gruppo, ora più numeroso, può quindi generare entrate ancora maggiori, che a loro volta possono essere impiegate per costruire ancora più robot, e così via. Che effetto avrebbe tutto questo?

Epoch AI è uno dei principali gruppi di ricerca all’intersezione tra intelligenza artificiale ed economia, e ha creato alcuni dei pochi modelli che esplorano cosa significherebbe per l’economia un vero lavoratore robotico di livello umano. I loro studi mostrano, ad esempio, che se diventasse possibile produrre un robot per uso generico a meno di 10 000 dollari e lo si inserisse in un modello standard di crescita economica, la quantità totale di beni e servizi prodotti inizierebbe a crescere del 30 % all’anno.⁠6 Questo fenomeno è stato definito “esplosione industriale”.

Ciò accade per il semplice motivo che se si ha il doppio dei lavoratori, e il doppio degli strumenti e delle fabbriche, si potrà ottenere circa il doppio della produzione. Si tratta di un’idea ampiamente accettata in economia e supportata da dati empirici, chiamata ‘rendimenti costanti di scala’.⁠⁠r

Questo non accade nell’economia attuale perché, anche se la produzione raddoppia e può essere reinvestita nel capitale, non può essere reinvestita per aumentare il numero di lavoratori. Affidare allo stesso numero di lavoratori una fabbrica grande il doppio non significa che essi possano produrre il doppio, quindi la produzione complessiva non cresce più di tanto. Ma quando diventa possibile costruire semplicemente un nuovo lavoratore robotico, quel vincolo non sussiste più. Ciò porta a una crescita della produzione che, pur rimanendo esponenziale come oggi, risulta molto più rapida.

Se i lavoratori di IA possono anche contribuire all’innovazione, allora, man mano che la popolazione di IA cresce, aumenta anche la quantità di innovazione che possono realizzare; ciò significa che ogni lavoratore IA ottiene strumenti tecnologici più potenti, aumentando ulteriormente la propria produzione (si potrebbe sostenere che questo sia un quarto ciclo di retroazione della “produttività” che deriva dall’esplosione tecnologica). In questo scenario, la produzione accelera nel tempo, crescendo in modo superesponenziale.⁠⁠s

Mentre un ciclo di retroazione algoritmico probabilmente si esaurirebbe abbastanza rapidamente man mano che si raggiungono i rendimenti decrescenti della ricerca algoritmica, l’esplosione industriale può continuare ad accelerare fino al raggiungimento dei limiti fisici. Questi potrebbero essere molto elevati.

A titolo esemplificativo, Forethought sostiene che la produzione di robot sarebbe più probabilmente limitata dalla carenza di energia che dalla mancanza di materie prime. Se il 5 % dell’energia solare venisse utilizzato per alimentare i robot con un’efficienza pari a quella del corpo umano, sarebbe sufficiente per sostenere una popolazione di 100 trilioni(!).⁠⁠t E questo senza considerare l’espansione nello spazio.

La velocità di un’esplosione industriale è in ultima analisi limitata dal tempo minimo in cui è possibile costruire un intero ciclo produttivo di pannelli solari, fabbriche di chip e robot. Nessuno sa quanto potrebbe essere rapido, ma esistono organismi biologici, come i moscerini della frutta, in grado di replicare un cervello e un “robot” in miniatura in circa una settimana, quindi alla fine potrebbe diventare molto veloce.

Alcune controargomentazioni comuni

È anche possibile che rimanga un numero sufficiente di compiti che i robot non sono in grado di (o non sono autorizzati a) svolgere, tale che un’esplosione industriale non abbia mai inizio (nonostante gli enormi incentivi finanziari e militari a farlo).

I mercati finanziari attualmente non sembrano prevedere alcun aumento della crescita economica, e gli economisti rimangono scettici riguardo a tale possibilità.

Ma quando la maggior parte degli economisti cerca di creare modelli degli effetti dell’IA, presuppone implicitamente che essa rimanga uno strumento complementare ai lavoratori umani. Se si crea un modello dell’effetto di un robot in grado di sostituire effettivamente i lavoratori umani, è piuttosto difficile non ottenere una crescita esplosiva. La maggior parte delle argomentazioni contro la crescita esplosiva sostiene semplicemente che non saranno possibili lavoratori robotici sufficientemente autonomi, non che la crescita esplosiva non ne conseguirebbe se invece lo fossero.

Un’altra risposta comune è che l’automazione di massa renderebbe tutti disoccupati, facendo crollare la domanda. Ma le fasi iniziali produrrebbero un boom dei salari, poiché i compiti che non possono ancora essere svolti dall’IA (compresi molti lavori manuali) diventerebbero colli di bottiglia cruciali e registrerebbero un aumento delle retribuzioni. Inoltre, più della metà degli americani possiede un patrimonio netto superiore a 100 000 dollari e diventerebbe rapidamente multimilionaria. Poi, circa il 25 % del PIL è soggetto a tassazione, e la maggior parte di tale quota viene redistribuita sotto forma di welfare. Queste forze sosterrebbero la domanda anche in caso di calo dell’occupazione.

Sempre più economisti stanno iniziando a prendere sul serio la possibilità di una crescita esplosiva, anche se non ne hanno veramente interiorizzato le implicazioni, come in questo rapporto della FED di Dallas su come “l’IA migliorerà gli standard di vita”:

Un’altra obiezione comune è che questi scenari sembrano folli e al di fuori della norma storica. Tuttavia, bisogna tenere presente che un’accelerazione economica è già in corso da alcune migliaia di anni. Prima dell’era agricola, la crescita economica era praticamente inesistente. In seguito, la crescita è aumentata fino a raggiungere forse lo 0,1 % all’anno. Durante la rivoluzione industriale, ha subito una nuova accelerazione superando l’1 % all’anno.

Il tasso di crescita è stato costante negli ultimi 100 anni, ma solo perché la popolazione ha smesso di crescere di pari passo con le dimensioni dell’economia. L’IA e i robot ripristinerebbero la vecchia dinamica in cui una maggiore produzione porta a una “popolazione” più numerosa, e tale dinamica conduce a una crescita superesponenziale.

Due visioni del futuro dell’IA avanzata

È possibile che l’IA non sia in grado di svolgere ricerca algoritmica, ricerca scientifica o molti lavori ordinari nell’immediato futuro. Se ulteriori investimenti nella potenza di calcolo smetteranno di aumentare le capacità dell’IA, o se i ricavi non saranno sufficientemente elevati, allora le capacità dell’IA raggiungeranno gradualmente un plateau.⁠⁠u

Forse l’IA finirà per essere estremamente capace in alcuni ambiti ristretti, come la matematica e la programmazione, ma ci saranno ancora così tante cose che non sarà in grado di fare, che l’economia andrà avanti come prima. Questo è ciò che accade con la maggior parte delle tecnologie, anche quelle “rivoluzionarie”. Le lampadine elettriche sono state una grande invenzione, ma una volta che tutti le abbiamo, non continuiamo a comprarne sempre di più in un ciclo autoalimentato. Lo scopo di questo articolo, tuttavia, è esplorare cosa succederà se le capacità dell’IA non raggiungeranno un plateau. Tra le persone che hanno riflettuto maggiormente su questa questione, le opinioni tendono a dividersi in due schieramenti principali:

	Decolli “più rapidi”	Decolli “più lenti”
Ciclo di retroazione più importante	Algoritmico (chip, hardware robotico e produttività subentrano in seguito)	Hardware dei chip e lavoratori robotici (contributo algoritmico minimo)
Traiettoria	Progresso costante, poi esplosione di intelligenza di 3–12 mesi, seguita da un’esplosione industriale in accelerazione	Esplosione di intelligenza, tecnologica e industriale in graduale accelerazione nell’arco di 5–20 anni
Scenario di esempio	AI 2027	Modello Epoch GATE
Rischi più preoccupanti	Improvvisa perdita di controllo o concentrazione di potere	Graduale perdita di potere
Background tipico dei sostenitori	Matematica, filosofia, fisica, informatica	Economia

Il primo schieramento è particolarmente preoccupato per il ciclo di retroazione algoritmico. Forse l’IA è ancora molto lontana dal poter svolgere la maggior parte dei lavori, ma si rivela particolarmente abile in due cose: la programmazione e la ricerca sull’IA. Si tratta di compiti puramente virtuali, con risultati relativamente misurabili che corrispondono agli attuali punti di forza dei modelli.

Mentre la vita quotidiana continua a sembrare sostanzialmente la stessa di prima, da qualche parte in un centro di calcolo, 10 milioni di ricercatori digitali di IA stanno prendendo parte a un ciclo di retroazione algoritmico autoalimentato. Meno di un anno dopo, ci sono 300 milioni di IA più intelligenti degli esseri umani — una “nazione di geni in un centro di calcolo”⁠⁠v — ora impiegate per massimizzare la produzione di chip, la produzione di robot, la ricerca scientifica e quindi l’automazione dell’economia. Questi lavoratori digitali potrebbero inserirsi nei posti di lavoro esistenti, e quindi diffondersi molto più rapidamente rispetto alle tecnologie precedenti.

È estremamente importante prepararsi a questo scenario, perché è il più drammatico e pericoloso. Potremmo passare dal mondo normale a uno con IA superintelligenti in appena un anno o due. Una singola azienda potrebbe ritrovarsi con una potenza intellettuale 10 o 100 volte superiore a quella dell’intera comunità scientifica odierna. E questo potrebbe accadere in un mondo che sembra piuttosto simile a quello di oggi, prima che si verifichi una disoccupazione tecnologica significativa.

Questo è il tipo di scenario esplorato in Situational Awareness o AI 2027, che esamina cosa accadrebbe se nel 2027 venisse creato un programmatore automatizzato. Non credo che un programmatore automatizzato verrà creato nel 2027, ma è molto possibile che venga inventato entro i prossimi 10 anni e, tutto sommato, penso che un ciclo di retroazione algoritmico sia più probabile che improbabile (anche se non sono sicuro di fin dove si spingerà).

Attualmente, uno scenario che mi sembra piuttosto probabile è quello in cui il progresso dell’IA continua e forse rallenta gradualmente dopo il 2028, man mano che diventa sempre più difficile aumentare su scala la potenza di calcolo. Le capacità dell’IA rimangono molto irregolari e non in grado di gestire quella pianificazione a lungo termine, strategia o apprendimento continuo che la renderebbero autonoma, ma si dimostrano abbastanza utili da generare profitti sostanziali e scoperte scientifiche, alimentando così continui investimenti. Poi, in un momento imprecisato degli anni ‘30, gli ultimi colli di bottiglia verranno superati (o verrà creato un nuovo paradigma) e avrà inizio un ciclo di retroazione algoritmico, innescando un decollo più rapido verso la fine del decennio.

A differenza di AI 2027, questo scenario prevede un intervallo di tempo più lungo tra il momento in cui la situazione inizia a diventare palesemente folle e una vera e propria esplosione di intelligenza. Ciò significa che la società avrà più tempo per prepararsi, ma implica anche che il decollo potrebbe avvenire in un mondo caratterizzato da conflitti più intensi e da una maggiore infrastruttura robotica già operativa.

Il secondo schieramento, quello a favore di un decollo più lento, ritiene che un ciclo di retroazione algoritmico non sia possibile, ma pensa comunque che le esplosioni di intelligenza, tecnologica e industriale avverranno. La differenza risiede nel fatto che queste esplosioni dovrebbero invece essere alimentate dai cicli di retroazione dell’hardware dei chip, dei lavoratori robotici e della produttività.

Questo è il tipo di scenario esplorato nel modello GATE di Epoch — il primo tentativo di realizzare un modello macroeconomico integrato dell’automazione tramite IA. Esso parte dal momento in cui viene creata un’IA in grado di svolgere il 10 % delle attività economicamente rilevanti e modellizza come il reinvestimento nell’hardware informatico potrebbe spingere i ricavi e l’automazione a livelli sempre più alti.

Date le ipotesi di base, entro cinque anni il PIL totale raddoppia e il tasso di crescita raggiunge il 20 %, per poi continuare ad accelerare. Dopo 15 anni, il PIL è 30 volte superiore, ci sono 500 miliardi di lavoratori IA e la crescita tocca il 50 % annuo. Anche se si aggiungono ulteriori attriti, la situazione diventa comunque piuttosto folle in tempi decisamente rapidi.

Ciò che è chiaro è che — che avvenga più in fretta, più lentamente o a ritmi intermedi — la società non è minimamente preparata per nessuno di questi scenari.

Di conseguenza, potremmo assistere a una straordinaria espansione della ricchezza e della tecnologia, che renderebbe molto più facile affrontare molti problemi globali. Ma ciò comporterebbe anche rischi inediti e autenticamente esistenziali.

---

Pubblicazione originale: Benjamin Todd (2026) How AI-driven feedback loops could make things very crazy, very fast, 80,000 Hours, 4 di febbraio.