La maledizione dell’intelligenza

Questo articolo riproduce le sezioni 3 e 4 del saggio La maledizione dell’intelligenza di Luke Drago e Rudolf Laine.

3. Capitale, IAG e ambizione umana

Sintesi: L’IA renderà i fattori di produzione non umani più importanti di quelli umani. Il risultato potrebbe essere un futuro in cui le attuali strutture di potere diventeranno permanenti e cristallizzate, senza più alcuna possibilità di mobilità sociale o progresso.

Molti sostengono che il denaro non avrà più importanza dopo l’IAG, o almeno ne avrà meno. Di base, è vero l’esatto contrario.

Innanzitutto, alcuni termini: per «lavoro» si intende lo sforzo mentale e fisico umano che produce qualcosa di valore. I beni strumentali sono elementi come fabbriche, centri di calcolo e software, ovvero cose costruite dagli esseri umani e utilizzate nella produzione di beni e servizi. Useremo il termine «capitale» per riferirci sia all’insieme dei beni strumentali sia al denaro con cui è possibile acquistarli. Useremo il termine «denaro» quando vorremo escludere i beni strumentali.

L’effetto economico chiave dell’IA è che rende il capitale un sostituto sempre più generale del lavoro. C’è meno necessità di retribuire gli esseri umani per il tempo dedicato al lavoro, poiché è possibile sostituirlo con il capitale: i centri di calcolo che eseguono software sostituiscono un essere umano che svolge un lavoro intellettuale.

Esamineremo le conseguenze di tutto ciò e concluderemo che l’IA sostitutiva del lavoro comporta:

1. La capacità di acquistare risultati nel mondo reale aumenterà drasticamente
2. La capacità umana di esercitare potere nel mondo reale diminuirà drasticamente perché:
   1. Il valore del lavoro delle persone diminuisce, e per la maggior parte di esse questo rappresenta la principale leva di potere
   2. Sarà più difficile per gli esseri umani ottenere risultati eccezionali rispetto alle loro risorse di partenza
3. Misure radicali di livellamento sono improbabili

Nel complesso, ciò evidenzia un aspetto negativo trascurato dell’IA trasformativa: il fatto che la società potrebbe diventare permanentemente statica e che gli attuali squilibri di potere potrebbero essere amplificati per poi divenire immutabili. Una società statica con una casta dominante inamovibile non sembra dinamica né viva. Non dovremmo uccidere l’ambizione umana, se possiamo evitarlo.

La soluzione predefinita

Supponiamo che il lavoro umano, fisico e mentale, nella stragrande maggioranza dei compiti per i quali gli esseri umani sono attualmente retribuiti, non abbia più un valore di mercato significativo, perché tali compiti possono essere svolti meglio/più velocemente/più economicamente dalle IA. Chiamiamola «IA sostitutiva del lavoro».

La soluzione standard al problema della disoccupazione che ne deriva si articola su due livelli:

1. I governi adotteranno qualcosa di simile al reddito minimo universale (UBI).
2. Raggiungeremo rapidamente la superintelligenza e, supponendo che la superintelligenza sia allineata ai valori umani, vivremo in un mondo tecnologico di meraviglie post-scarsità dove tutto è possibile.

Si noti, innanzitutto, che il denaro continuerà a esistere, almeno finché non avremo un singolo sistema di IA che si occupi di tutta la pianificazione economica. I prezzi servono principalmente a comunicare informazioni. Se ci sono molti attori che commerciano tra loro, l’ipotesi più solida dovrebbe essere che esistano dei prezzi (anche se gli esseri umani non li vedono né interagiscono con essi). Ricordiamo inoltre che, per quanto repentina possa essere la singolarità, l’abbondanza rimarrà comunque finita, e dovrà quindi essere allocata.

Attualmente il denaro fatica a comprare il talento

Il denaro può comprare molte cose: i beni strumentali, ad esempio, di solito si possono acquistare abbastanza facilmente, ma non senza molto denaro⁠⁠1. Tuttavia, è sorprendentemente difficile convertire il semplice denaro in lavoro, in un modo che risulti competitivo con il lavoro di altissimo livello.

Si consideri la classica interazione tra venture capitalist e fondatore, oppure quella tra acquirente e startup. In entrambi i casi, i detentori di enormi capitali finanziari sono disposti a pagare prezzi altissimi per scommettere sul lavoro — e la scommessa è che il lavoro delle poche persone nella startup avrà la meglio su quantità estremamente elevate di capitale.

Se si vuole convertire il denaro in risultati, il problema più profondo che probabilmente si dovrà affrontare è l’assunzione dei talenti giusti. E questo comporta diversi problemi:

1. Spesso è difficile valutare il talento, a meno che non si possieda un talento considerevole nello stesso ambito. Pertanto, se si cerca di individuare il talento, spesso non lo si riconosce.
2. Il talento è raro, e il talento con credenziali lo è ancora di più. Molti attori non possono permettersi di fare affidamento su alcun altro tipo, a causa del punto 1, quindi semplicemente non ce n’è molto in circolazione.
3. Anche se si riesce a individuare i talenti di punta, questi tendono a essere meno inclini a farsi comprare col denaro rispetto agli altri.

Con l’IA sostitutiva del lavoro, questi problemi scompaiono:

Innanzitutto, le IA possono essere copiate. Attualmente, ingenti somme di denaro inseguono un singolo ricercatore di spicco che ha compiuto una scoperta rivoluzionaria, rendendo così il suo talento evidente a chi controlla il denaro. Costoro possono valutare il peso dell’accoglienza sociale del suo articolo, ma solitamente non sono in grado di giudicare direttamente il talento in sé. Ma se il ricercatore di spicco è un’IA, può semplicemente essere copiato. Tutti — o almeno, tutti coloro che hanno abbastanza denaro da bruciare in GPU — ottengono il ricercatore di spicco IA. Non c’è più bisogno di vagliare l’enorme varietà di esseri umani unici con i loro talenti non ancora dimostrati.

In secondo luogo, il prezzo del talento scenderà drasticamente, perché le IA saranno più economiche del lavoro umano equivalente e perché la concorrenza sarà più agguerrita, dato che le IA possono essere duplicate.

In terzo luogo, molti talenti di punta hanno preferenze umane complesse che li rendono difficili da comprare. L’artista di punta ha una visione artistica a cui è sinceramente legato. Il matematico di punta nutre un profondo amore per l’eleganza e la bellezza. L’imprenditore di punta ha una profonda convinzione in ciò che sta facendo — e probabilmente non funzionerebbe bene come dipendente comunque. Nelle persone di talento, le prestazioni sono sorprendentemente vincolate a un legame sacro con una disciplina o una missione. Al contrario, le IA esistono proprio per poter essere banalmente comprate (almeno entro i limiti del loro addestramento). Il geniale matematico IA, a differenza di quello umano, trascorrerà felicemente il suo tempo limitato sulla Terra a dimostrare la correttezza di codice di routine.

Infine, le IA finiranno per essere molto più capaci di qualsiasi dipendente umano nelle loro mansioni.

Ciò significa che la capacità del denaro di comprare risultati nel mondo reale aumenterà drasticamente una volta che avremo un’IA sostitutiva del lavoro.

Niente più risultati eccezionali?

Abbiamo già discusso di come gran parte del lavoro sarà resa obsoleta dall’IA e dalla robotica. Ma alla fine, anche gli esseri umani più talentuosi saranno superati dalle IA. Cosa succederà allora?

Molti cambiamenti nel mondo sono guidati da persone che partono senza alcun potere, raggiungono un successo eccezionale e finiscono per acquisirne. Ciò ha senso, poiché chi detiene il potere raramente ha il fervore necessario per promuovere grandi cambiamenti, essendo proprio chi trae il maggior vantaggio dallo status quo.

Qualunque sia la vostra opinione sulla disuguaglianza di reddito o su un particolare gruppo di successi eccezionali, la possibilità che qualcuno ottenga un successo eccezionale e cambi il mondo è importante per evitare la stasi e garantire un progresso sociale continuo.

Consideriamo gli effetti dell’IA sostitutiva del lavoro sui vari percorsi verso il successo eccezionale attraverso il lavoro:

L’imprenditorialità è sempre più ciò che Matt Clifford definisce la “tecnologia dell’ambizione” d’elezione per i giovani ambiziosi. Al momento, l’imprenditorialità è diventata più accessibile. Gli strumenti di IA possono già rendere i piccoli team molto più efficaci senza la necessità di assumere nuovi dipendenti. Riducono inoltre le barriere all’ingresso per nuove competenze e settori. Tuttavia, l’IA sostitutiva del lavoro rende incerta la sostenibilità dell’imprenditorialità. Esiste un possibile futuro in cui le IA rimangono per lo più simili a strumenti e gli imprenditori riescono ad avere successo molto tempo dopo che gran parte del lavoro umano sarà automatizzata, poiché offrono iniziativa e direzione. Tuttavia, sembra altrettanto probabile che un’IA sufficientemente potente finisca per rendere obsoleta l’imprenditorialità umana. Ad esempio, i fondi di capitale di rischio potrebbero essere in grado di convertire direttamente il denaro in centinaia di tentativi di startup gestiti interamente da IA, senza dover passare per la fase intermedia di cercare imprenditori umani che gestiscano le IA per conto loro.

Le scienze esatte. L’era delle conquiste umane nelle scienze esatte potrebbe concludersi nel giro di pochi anni a causa del ritmo di progresso dell’IA in qualsiasi ambito caratterizzato da chiari segnali di ricompensa.

Gli intellettuali. Keynes, Friedman e Hayek hanno tutti prodotto lavori tecnici in economia, ma la loro influenza straordinaria derivava dalle visioni del mondo che hanno sviluppato e diffuso, cosa che li ha resi più influenti di figure come Paul Samuelson, che dominavano l’economia matematica. Anche John Stuart Mill, John Rawls e Henry George sono stati influenti grazie alla creazione di schemi interpretativi, visioni del mondo e filosofie. L’elemento chiave che distingue queste figure dagli scienziati puri è che gli esiti del loro lavoro non si distinguono solo per la correttezza tecnica, ma richiedono anche un giudizio morale. Una delle ragioni fondamentali per cui le ideologie degli intellettuali possono avere un tale potere è che sono prodotti del genio in un mondo in cui il genio è raro. Un’ondata di ideologie create dall’intelligenza artificiale potrebbe far sì che nessuna ideologia individuale, e certamente nessuna di origine umana, possa più risplendere con tanta intensità. L’intellettuale di portata storica potrebbe estinguersi.

La politica potrebbe essere una delle opzioni meno colpite, poiché è plausibile pensare che la maggior parte delle persone desideri un essere umano in quel ruolo, e perché sono i politici stessi a stabilire le regole su ciò che è consentito. Tuttavia, il carisma degli avatar generati dall’IA e una generale avversione nei confronti della classe politica potrebbero rimescolare le carte. È inoltre difficile stabilire se i politici in carica ne risulteranno avvantaggiati. L’IA potrebbe abbattere i costi di molti aspetti delle campagne elettorali, riducendo le barriere all’ingresso in termini di risorse. Tuttavia, se un’IA inaccessibile ai piccoli attori si rivelasse significativamente migliore di un’alternativa più economica, ciò finirebbe per favorire chi dispone di maggiori risorse. Prevediamo che questi effetti diretti siano comunque minori rispetto a quelli indiretti, derivanti da qualsiasi cambiamento l’IA apporterà al panorama memetico.

Il successo militare come via diretta per ottenere un enorme potere e creare scompiglio non è, per fortuna, più un’opzione reale dai tempi di Napoleone. Il progresso tecnologico aumenta la base industriale minima necessaria per mantenere un esercito all’avanguardia, avvantaggiando così le potenze consolidate. L’IA sembra destinata a essere controllata dai paesi più potenti. Un’eccezione potrebbe verificarsi se i colpi di Stato nei grandi paesi diventassero più facili grazie all’IA. Il controllo sui futuri eserciti basati sull’IA sarà probabilmente (a) più centralizzato rispetto al passato, poiché non sarà più necessario il consenso di un gran numero di persone affinché le forze armate entrino in azione, e (b) più strettamente controllabile, poiché i permessi potranno essere implementati tramite codice anziché affidati alle norme sociali umane. Questi due fattori spingono in direzioni opposte, per cui non è chiaro quale sarà l’effetto netto sulla facilità di compiere un colpo di Stato. Un’altra possibile eccezione si verificherebbe se una combinazione di tattiche rivoluzionarie e droni a basso costo permettesse a un «Napoleone dei droni» di sconfiggere gli eserciti attuali. È importante sottolineare, tuttavia, che nessuna di queste prospettive sembra in grado di promuovere il giusto tipo di sfida dirompente allo status quo.

Tutto ciò significa che la capacità di ottenere ed esercitare potere nel mondo reale senza disporre di capitali di partenza diminuirà drasticamente una volta che avremo un’IA sostitutiva del lavoro.

L’uguaglianza imposta è improbabile

The Great Leveler è un ottimo libro sulla storia della disuguaglianza che (almeno a detta dell’autore) ha resistito piuttosto bene alle critiche. La sua conclusione è che le grandi riduzioni della disuguaglianza nel passato sono state tutte innescate da uno dei «Quattro Cavalieri del Livellamento»: guerra totale, rivoluzione violenta, crollo dello Stato o pandemie. Storicamente, livellare le differenze di reddito è stato talmente difficile da non essere praticamente mai avvenuto per effetto di una scelta politica consapevole.

Immaginate che l’IA sostitutiva del lavoro sia ormai una realtà. È in atto una corsa sfrenata tra paesi e aziende per sfruttarla al meglio. Poiché tutto ciò richiede ingenti capitali, tutti devono corteggiare chi li detiene. Le principali aziende di IA esercitano un potere pari a quello degli Stati. È improbabile che la redistribuzione della ricchezza finisca in cima all’agenda politica.⁠⁠2

Pertanto, anche se dovessimo ritrovarci in una società molto ricca, è improbabile che le persone del futuro vi partano da condizioni di parità. È altrettanto improbabile che riescano in seguito a modificare in modo significativo la propria posizione relativa.

Consideriamo anche l’uguaglianza tra gli Stati. Alcuni Stati sono destinati a trarre dall’IA vantaggi enormemente maggiori rispetto ad altri. Per gli Stati sarebbe difficile estendere ai non cittadini molte misure di perequazione, come il reddito minimo universale (UBI), in un sistema politico anche solo lontanamente simile a quello attuale. Ciò vale anche per gli Stati Uniti, la grande potenza più liberale e umanista della storia mondiale. Come esito predefinito, l’ordine mondiale potrebbe quindi assomigliare — ancora più di oggi — a un sistema di caste globale basato sul paese di nascita.⁠⁠3

L’esito predefinito

Come esito predefinito, nel mondo successivo all’IA sostitutiva del lavoro:

• Il denaro permetterà di comprare risultati nel mondo reale come non mai
• Il lavoro conferirà alle persone meno effetto leva che mai prima d’ora
• Raggiungere un successo eccezionale attraverso il proprio lavoro nella maggior parte dei settori, se non in tutti, è ormai impossibile
• Non ci sarà stato alcun livellamento trasformativo del capitale, né all’interno dei singoli paesi né tra di essi

Ciò significa che chi disponeva di un capitale significativo all’avvento dell’IA sostitutiva del lavoro gode di un vantaggio permanente. Costoro eserciteranno un potere maggiore rispetto ai ricchi di oggi. Gli emergenti non riusciranno a sconfiggerli, poiché il capitale si converte ora con estrema facilità in lavoro sovrumano in qualsiasi campo.

Nel migliore dei casi, questo è un mondo simile a una Norvegia più diseguale, statica come mai prima d’ora e molto più ricca: un’enorme riserva di risorse non legate al lavoro umano (nel caso della Norvegia, il petrolio) offre benefici che si riversano su tutti e, sebbene alcuni siano più ricchi di altri, tutti godono di un ottimo tenore di vita. Le uniche forme realistiche di ambizione umana consistono nel partecipare a giochi sociali e politici a livello locale all’interno della propria rete sociale e della propria classe. Se non si dispone di molto capitale, non si ha più alcuna possibilità di influenzare il mondo in senso più ampio. Ricordate: le IA sono poeti, artisti, filosofi migliori in tutto; perché qualcuno dovrebbe interessarsi a ciò che fa un essere umano, a meno che quell’essere umano non sia qualcuno che conosce personalmente? Nelle società feudali la risposta alla domanda «perché questa persona è potente?» di solito implicava una lunga storia familiare, che forse culminava in un lontano antenato che aveva combattuto in una battaglia importante: «Il mio bis-bisnonno ha combattuto a Bosworth Field!». In futuro, la risposta alla domanda «perché questa persona è potente?» risalirà a qualcosa che lei stessa o qualcuno a lei vicino ha fatto nell’era pre-IAG: «Oh, mio zio faceva parte dello staff tecnico di OpenAI». I bambini del futuro vivranno la loro vita all’ombra dei propri genitori, con la mobilità sociale ormai estinta. Questo è ben lungi dall’essere il futuro peggiore che potremmo immaginare, ma qualcosa di importante andrà perduto.

In uno scenario peggiore, i bilionari dell’IA hanno un potere quasi illimitato e incontrollato, e si forma un’aristocrazia permanente consolidata in base al capitale di cui disponeva al momento dell’introduzione dell’IA sostitutiva del lavoro. Le disparità di potere tra le classi potrebbero far rabbrividire le persone di oggi, proprio come le persone di oggi considerano grottesche le gerarchie di status feudali. Ma non preoccupatevi: proprio come la classe inferiore feudale accettava per lo più il proprio ordine mondiale per via della propria cultura, anche senza IA con capacità di persuasione sovrumane nei paraggi, così farà anche la futura classe inferiore.

Nello scenario peggiore in assoluto, l’umanità si estingue, potenzialmente a causa di un’ottimizzazione graduale per il potere dell’IA rispetto alla prosperità umana nel corso di un lungo periodo di tempo. Perché è proprio verso questo che punteranno gli incentivi legati al potere e al denaro.

Verso la maledizione dell’intelligenza

Abbiamo visto come l’IA avanzata minacci sia i normali percorsi di carriera, sia la capacità dei talenti eccezionali di fare la differenza nel mondo. Il potere e l’effetto leva sul mondo della maggior parte delle persone derivano dalla loro capacità di svolgere un lavoro utile, ossia dall’essere economicamente rilevanti. L’IA sostitutiva del lavoro potrebbe eliminare quel potere e quell’effetto leva. Di base, questo avrà conseguenze di vasta portata.

Negli ultimi secoli si è verificato un grande cambiamento verso Stati sempre più attenti agli esseri umani. Perché? Possiamo esaminarne le ragioni per valutare quanto sembrino durature:

1. Cambiamenti morali e politici a seguito dell’Illuminismo, in particolare una maggiore centralità del liberalismo e dell’individualismo.
2. Ricchezza e tecnologia. Le società preindustriali erano per lo più così povere che sforzi significativi per aiutare i poveri le avrebbero mandate in bancarotta. Molte forme di assistenza (come cure mediche efficaci) sono inoltre possibili solo grazie alle nuove tecnologie.
3. Gli incentivi per gli Stati a preoccuparsi della libertà, della prosperità e dell’istruzione.

L’intelligenza artificiale sarà di grande aiuto per il secondo punto. Avrà effetti complessi sul primo. Ma il terzo, in particolare, è sottovalutato. Con l’IA sostitutiva del lavoro, gli incentivi degli Stati — intesi come le azioni che gli Stati dovrebbero intraprendere per massimizzare la propria competitività rispetto ad altri Stati e/o il proprio potere — non saranno più allineati con gli esseri umani in questo modo. Adam Smith poteva scrivere che la sua cena non dipende dalla benevolenza del macellaio, del birraio o del fornaio. Il liberale classico di oggi può affermare in modo credibile che l’arco della storia tende davvero verso la libertà e l’abbondanza per tutti, non grazie alla benevolenza dello Stato, ma grazie agli incentivi del capitalismo e della geopolitica. Ma con l’IA sostitutiva del lavoro, questo non sarà più vero.

La chiamiamo maledizione dell’intelligenza, ed è ciò che esamineremo di seguito.

4. Definizione di maledizione dell’intelligenza

Sintesi: Con l’IAG, gli attori potenti perderanno l’incentivo a investire nella gente comune — proprio come oggi gli Stati ricchi di risorse trascurano i propri cittadini perché la loro ricchezza deriva dalle risorse naturali anziché dalla tassazione del lavoro umano. Questa è la maledizione dell’intelligenza.

Gli economisti sono abituati a modellizzare l’intelligenza artificiale come uno strumento, quindi non comprendono come essa possa rendere le persone irrilevanti. Le rivoluzioni tecnologiche del passato hanno esteso il potenziale umano. La rivoluzione agricola ha dato vita alle civiltà; la rivoluzione industriale ci ha permesso di espanderle su larga scala.

Ma l’IAG assomiglia molto più al carbone o al petrolio che all’aratro, alla macchina a vapore o al computer. Proprio come quelle risorse:

• Richiederà capitali immensi per essere scoperta e sfruttata.
• Il controllo sarà probabilmente concentrato nelle mani di pochi attori: i laboratori che producono l’IA, gli Stati in cui hanno sede e le aziende che producono le materie prime, i chip, i robot e l’elettricità di cui tutti necessitano.
• Gli Stati e le aziende che traggono rendite principalmente o interamente dall’IA non avranno bisogno di fare affidamento sulle persone per ottenere entrate.

Questo problema assomiglia molto alla piaga che affligge gli Stati redditieri (rentier states), ovvero quegli Stati che basano la propria ricchezza prevalentemente sulle rendite derivanti da una risorsa, anziché sulle tasse dei propri cittadini. Questi Stati soffrono della «maledizione delle risorse»: nonostante dispongano di una fonte naturale di reddito, ottengono risultati peggiori nel migliorare il tenore di vita dei propri cittadini comuni rispetto ai loro omologhi con economie diversificate.

Gli attori potenti che adottano sistemi di IA sostitutiva del lavoro dovranno affrontare incentivi simili a quelli degli Stati redditieri, ma con una posta in gioco molto più alta. Poiché i loro ricavi proverranno dall’intelligenza su richiesta invece che dalle persone, non otterranno alcun rendimento da investimenti quali l’istruzione per preparare le persone al lavoro, l’occupazione e i salari, o lo Stato sociale per i disoccupati. Di conseguenza, non investiranno, e la loro popolazione non sarà in grado di mantenersi. Gli esseri umani non dovranno candidarsi e, pertanto, non saranno retribuiti.

Questa è la maledizione dell’intelligenza: quando attori potenti creeranno e implementeranno l’intelligenza generale, perderanno i loro incentivi a investire nelle persone.

Perché gli attori potenti si preoccupano di te

Per attori potenti intendiamo grandi organizzazioni quali Stati, aziende e burocrazie che dispongono di risorse significative, le quali consentono loro di plasmare il mondo in cui viviamo e il nostro modo di interagire con esso.

Gli attori potenti non si preoccupano di te per pura bontà d’animo. Lo fanno per due motivi:

1. Offri un ritorno sull’investimento, solitamente attraverso le tasse o i profitti.
2. Influisci sulla loro capacità di mantenere il potere, sia attraverso mezzi democratici come il voto, sia tramite minacce credibili al regime.

La maggior parte degli Stati nel mondo moderno ha un’economia diversificata, il che significa che il valore proviene da molti settori e attività umane differenti, anziché da una sola o da poche fonti. Essi si affidano alla tassazione degli individui e delle imprese per generare entrate, pertanto aumentano il proprio gettito incrementando la produttività dei cittadini.⁠⁠4 Lo Stato è incentivato a formare ingegneri, imprenditori, innovatori e altri lavoratori economicamente produttivi, e a creare un ambiente che permetta loro di generare un ritorno sull’investimento. A tal fine, gli Stati tendono a:

• Istituire scuole, istituti di ricerca e università di qualità
• Costruire infrastrutture come strade e trasporti pubblici
• Stabilire sistemi di governo e tribunali affidabili per tutelare i diritti di proprietà
• Tutelare la libertà di espressione e il flusso di informazioni
• Sostenere la creazione di piccole imprese
• Promuovere mercati competitivi
• Creare reti di sicurezza sociale per sostenere l’assunzione di rischi

Queste misure aumentano la produttività dei cittadini e ampliano lo spazio in cui l’innovazione può manifestarsi. Altrettanto importante è il fatto che si tratta proprio del tipo di misure che sollevano le persone dalla povertà estrema, migliorano il tenore di vita e instaurano libertà politiche ed economiche. Grazie a scuole di qualità, infrastrutture e mercati competitivi, un cittadino può formarsi e trovare un lavoro ben retribuito che vada oltre i propri bisogni primari. E grazie a sistemi di governo affidabili, tribunali equi e libertà di espressione, un cittadino può presentare petizioni al proprio governo per far valere le proprie esigenze senza il timore di diventare un prigioniero politico. I cittadini acquisiscono potere contrattuale attraverso il voto e la loro produzione economica, così da poter imporre cambiamenti che migliorino il loro tenore di vita. Di conseguenza, a volte gli Stati cedono alle richieste dei cittadini anche se ciò comporta dei costi.

Un fenomeno simile riguarda le aziende. Si pensi, ad esempio, agli stipendi esorbitanti della Silicon Valley. I lavoratori del settore tecnologico possiedono competenze di cui le aziende hanno disperatamente bisogno per aumentare i propri profitti.⁠⁠5 Questi lavoratori sono una merce molto ambita e la concorrenza per attirarli è feroce. Per conquistarli, le aziende pagano stipendi elevati, offrono stock option, acquistano tavoli da biliardo, offrono pasti gratuiti 24 ore su 24, 7 giorni su 7, preparati da uno chef stellato Michelin, e si occupano del loro bucato. Nessuno sostiene seriamente che il servizio di lavanderia aziendale decuplichi il fatturato, ma potrebbe convincere un potenziale dipendente o impedire a un dipendente altrimenti insoddisfatto di passare alla concorrenza. I dipendenti hanno potere contrattuale, quindi possono esigere vantaggi generosi che migliorano la loro qualità di vita.

Questo crea un ciclo di retroazione: man mano che le persone comuni fanno guadagnare di più agli attori potenti, questi ultimi sono più propensi ad assecondarle. L’istruzione aumenterà i guadagni della vostra popolazione nell’arco della vita (e quindi quelli dello Stato)? Costruite scuole. Offrire congedi familiari retribuiti porterà dipendenti migliori alla vostra azienda? Modificate la politica.

La maledizione delle risorse

Esistono già società che separano la produzione economica della propria nazione dal proprio capitale umano. Sono chiamate Stati redditieri (rentier states). Questi Stati — tra cui Venezuela, Arabia Saudita, Norvegia e Oman — traggono la maggior parte dei propri proventi dalle risorse (di solito il petrolio), piuttosto che dalla produzione da parte dei propri cittadini.

La Repubblica Democratica del Congo possiede nel proprio sottosuolo minerali non sfruttati per un valore di oltre 24 bilioni di dollari. Come se la cavano i suoi cittadini? Secondo la Banca Mondiale:

La maggior parte della popolazione della RDC non ha beneficiato di questa ricchezza. Una lunga storia di conflitti, sconvolgimenti politici, instabilità e regimi autoritari ha portato a una grave crisi umanitaria tuttora in corso. A ciò si aggiungono gli sfollamenti forzati delle popolazioni. Queste caratteristiche non sono cambiate in modo significativo dalla fine delle guerre del Congo nel 2003.

La RDC è tra le cinque nazioni più povere del mondo. Si stima che nel 2024 il 73,5% dei congolesi vivesse con meno di 2,15 dollari al giorno. Circa una persona su sei che vive in condizioni di estrema povertà nell’Africa subsahariana risiede nella RDC.

Cosa sta succedendo qui? Com’è possibile che risorse disponibili per un totale di bilioni abbiano portato a una povertà estrema?

Gli economisti e i politologi definiscono questo fenomeno la «maledizione delle risorse». I paesi dotati di abbondanti risorse naturali tendono a registrare una crescita economica più debole e tassi di povertà più elevati rispetto ai paesi economicamente diversificati.⁠⁠6

Sono molti i fattori che determinano la «maledizione delle risorse», ma uno dei principali è rappresentato dagli incentivi che essa crea a disinteressarsi del benessere economico della propria popolazione.

Poiché traggono profitto dalle risorse, gli Stati redditieri non hanno alcun incentivo a retribuire la gente comune oggi né a investire in essa per il domani. Costruire scuole migliori non fa guadagnare loro più denaro. Investono solo quanto basta per estrarre il petrolio dal sottosuolo, caricarlo sui camion e trasportarlo ai porti.⁠⁠7 Non è che i loro cittadini non possano svolgere attività degne di essere tassate, è che non c’è motivo di trasformarli in una popolazione soggetta a tassazione. Perché chiedere denaro alla propria gente quando lo si può ricavare dal sottosuolo?⁠⁠8

Senza denaro, le persone comuni faticano ad avanzare richieste. Nelle autocrazie, non c’è alcun incentivo a preoccuparsi di loro a meno che non minaccino in modo credibile il potere. Chi controlla le rendite può estrarre ricchezza senza preoccuparsi di tutti gli altri.

Come si presenta quindi la vita dei loro cittadini? Il dott. Ferdinand Eibl e il dott. Steffen Hertog propongono due visioni contrapposte:

Sono pochi i temi su cui le teorie di politica comparata offrono previsioni più nettamente contrastanti rispetto al legame tra rendite da risorse ed erogazione di prestazioni sociali da parte del governo. Alcuni autori, soprattutto quelli che si collocano nella tradizione della «teoria dello Stato redditiero», si aspettano che i governanti dei paesi ricchi di petrolio ricorrano a una cooptazione di massa, placando politicamente la popolazione con politiche assistenziali espansive (Beblawi e Luciani 1987; Karl 1997). Altri, in particolare coloro che propongono modelli formali della politica negli Stati ricchi di petrolio, si aspettano che i governanti redditieri trascurino la propria popolazione. Poiché le rendite vengono sottratte da una ristretta élite al potere che non ha bisogno di una base economica interna per il proprio arricchimento, l’assistenza sociale è minima e la miseria si diffonde (Acemoglu, Robinson e Verdier 2004; Mesquita e Smith 2009).

Esistono esempi empirici per entrambe le traiettorie. L’Oman e la Guinea Equatoriale presentano livelli di rendite da risorse naturali pro capite sostanzialmente comparabili — leggermente superiori a 8 000 USD pro capite nel periodo dal 1995 al 2014 (Ross 2013). Entrambi sono stati governati dagli stessi autocrati sin dagli anni ’70, quando entrambi i paesi erano disperatamente poveri. Sotto il sultano Qaboos, i servizi pubblici dell’Oman si sono espansi rapidamente, portando a uno dei più rapidi cali al mondo della mortalità infantile, passata da 159 per mille nati vivi nel 1971 a 9 nel 2010, ben al di sotto della media mediorientale di 32. Nella Guinea Equatoriale di Teodoro Obiang, lo Stato, al di fuori dei servizi di sicurezza, rimane embrionale, la stragrande maggioranza della popolazione continua a vivere in condizioni di estrema povertà e la mortalità infantile è diminuita con un’esasperante lentezza: da 263 nel 1971 a 109 nel 2010, rimanendo al di sopra della (già elevata) media subsahariana di 89. L’accesso alla ricchezza derivante dalle rendite è monopolizzato dalla ristretta cerchia del presidente (Wood 2004).

Talvolta, gli Stati redditieri danno origine ad ampie reti di sicurezza sociale. Ma in molti casi si traducono in una povertà estrema per tutti, tranne che per i pochi che controllano i flussi di rendita.⁠⁠9 Perché? Eibl e Hertog forniscono una risposta:

Concordiamo con i modelli formali della politica nei paesi ricchi di risorse, secondo cui le élite governanti cercano di garantire la propria sopravvivenza al potere. Le politiche pubbliche sono subordinate a questo obiettivo prioritario e riflettono la valutazione che le élite fanno delle minacce al proprio dominio. All’interno di questi vincoli, le élite cercheranno di massimizzare le proprie rendite personali derivanti dai proventi delle risorse.

Concordiamo inoltre con la letteratura esistente sul fatto che il ritorno economico relativo dell’erogazione di prestazioni sociali sia inferiore nei regimi basati sulle risorse, mentre i suoi potenziali effetti di modernizzazione siano politicamente indesiderati (Acemoglu e Robinson 2006; Mesquita e Smith 2009). A parità di condizioni, ci aspettiamo quindi che i regimi ricchi di petrolio instaurino coalizioni cleptocratiche ristrette, caratterizzate da un’assistenza sociale limitata e da un dilagante arricchimento personale delle élite.

Spiegazione della «maledizione dell’intelligenza»

La «maledizione dell’intelligenza» descrive gli incentivi in un’economia post-IAG che spingeranno i soggetti più potenti a investire nell’intelligenza artificiale anziché negli esseri umani. Se l’IA può svolgere il tuo lavoro in modo più rapido ed economico, non c’è motivo di assumerti. Ma, cosa ancora più importante, non c’è alcuna ragione economica per investire nella tua produttività a lungo termine, per prendersi cura di te o per tenerti con sé. Potremmo produrre un valore senza precedenti con un’economia completamente automatizzata, ma se i proventi saranno distribuiti come nei peggiori Stati redditieri, ciò non porterà prosperità alle masse.

La «maledizione dell’intelligenza» sarà probabilmente più forte della «maledizione delle risorse», poiché l’IA continuerà a migliorare. Anziché limitarsi a fornire al governo un flusso di entrate alternativo che richiede comunque una gestione da parte degli esseri umani, l’IA e la robotica elimineranno completamente il bisogno di esseri umani in tutti i settori dell’economia, dell’esercito e della burocrazia governativa. Inoltre, non si può «rimanere a corto» di IA come accade con il petrolio. Gli Stati redditieri hanno ancora un incentivo a lungo termine a diversificare le loro economie, ma ciò non varrà per gli Stati post-IAG.

Un’obiezione comune è che alcuni lavori non potranno mai essere automatizzati perché pretenderemo che siano gli esseri umani a svolgerli.

Ad esempio, gli insegnanti. Probabilmente la maggior parte dei genitori preferirebbe di gran lunga un insegnante vero, in carne e ossa, che si occupi dei propri figli durante la giornata. Ma questa argomentazione trascura completamente il quadro generale: non è che mancherà la richiesta di insegnanti, è che non ci sarà alcun incentivo a finanziare le scuole. Questo ragionamento si ripete all’infinito per qualsiasi investimento nella capacità produttiva della gente comune, per qualsiasi lusso che dipenda dal loro reddito in eccesso o per qualsiasi bene che li mantenga a galla. Di default, gli attori potenti non costruiranno cose che impieghino esseri umani o che forniscano loro risorse, perché non ne avranno bisogno.

Le tasse continueranno a rappresentare un’importante fonte di entrate per i governi, ma solo quelle a carico delle aziende. Allo stesso modo, le aziende guadagneranno grazie ai propri sistemi di intelligenza artificiale, non al lavoro prodotto dalle persone. Gli investimenti che il mondo sviluppato associa a un’elevata qualità della vita — stipendi, istruzione, infrastrutture, stabilità di governo, ecc. — non garantiranno più alcun rendimento. Le persone non genereranno più profitti per gli attori potenti.

Da dove trarranno invece i propri soldi gli attori potenti?

Gli Stati guadagneranno grazie alle imposte sulle società. Le aziende che producono sistemi avanzati di IA e quelle che li utilizzano genereranno enormi ricavi. Man mano che queste cresceranno, gli Stati le tasseranno sempre di più. Nel 2022, le imposte sulle società rappresentavano l’11,5% delle entrate medie dei paesi dell’OCSE — un campione di economie eterogenee e ad alto rendimento. Proprio come nel caso della Norvegia (dove circa il 30% delle entrate statali proviene dal petrolio), dell’Arabia Saudita (75%) e della Repubblica Democratica del Congo (dove circa un terzo delle entrate statali proviene dall’estrazione di risorse), gli Stati faranno meno affidamento sulle imposte sul reddito e più sulle tasse pagate dalle aziende di IA o da altre società che consentono agli attori potenti di raggiungere i propri obiettivi. Quando la ripartizione delle entrate statali assomiglierà più a quella di questi paesi che alla media dell’OCSE, saprete che la “maledizione dell’intelligenza” sta prendendo piede.

I laboratori di IA guadagneranno diventando i nuovi redditieri. L’obiettivo dichiarato dei laboratori di IA è la realizzazione dell’IAG. OpenAI sta già modificando la propria struttura societaria per rimuovere i limiti alla quantità di profitti generati dall’IAG che può trattenere per sé. E questo nonostante una struttura societaria concepita originariamente per garantire che, qualora l’IAG fosse diventata la colonna portante dell’economia, OpenAI avrebbe distribuito al mondo i profitti oltre una certa soglia. Una volta che i laboratori disporranno di un sistema di IA capace di fare tutto, diventeranno una componente orizzontale dell’economia, estraendo rendite da ogni attività economica: venderanno il sistema alle aziende e agli Stati, che lo utilizzeranno per sostituire i propri lavoratori. Cercheranno inoltre in tutti i modi di fagocitare l’economia anche in senso verticale. Se ci riusciranno, eserciteranno un potere economico che in passato era appannaggio esclusivo degli Stati. L’amministratore delegato di Anthropic, Dario Amodei, ha paragonato gli effetti dell’IA a “un Paese di geni in un centro di calcolo”. Notate i termini usati: un Paese di geni. Se i laboratori realizzeranno questa visione, non si tratterà semplicemente dell’ennesima azienda che opera nell’economia, ma piuttosto di un’intera nazione straniera sorta dal nulla, più popolosa di qualsiasi altro paese e abitata da lavoratori molto più economici, intelligenti e veloci di qualsiasi essere umano.⁠⁠10

Le aziende commerceranno tra loro e con altri attori potenti. La terra, l’energia, la potenza di calcolo, i poli produttivi, i centri di calcolo e i robot continueranno ad avere valore poiché consentono agli attori potenti di raggiungere i propri obiettivi. La catena di caffetterie e l’agenzia di marketing diventeranno irrilevanti, ma i proprietari immobiliari e le società energetiche riusciranno a guadagnare più che mai. Gli attori potenti, presumibilmente controllati da esseri umani (almeno per un po’), estrarranno la stragrande maggioranza del valore da queste fonti.

Cosa accadrà quindi alla maggior parte della gente comune, supponendo che gli attori potenti seguano la traiettoria di base?

• Le aziende saranno incentivate a licenziarle e a non assumerne mai di nuove. La gente comune non produrrà nulla di valore per esse. Per un breve periodo potrebbero fare affidamento su di loro come consumatori, ma la maggior parte delle aziende rivolte al pubblico si esaurirà man mano che la loro base di domanda perderà potere economico.
• Gli Stati saranno incentivati a decimare il finanziamento pubblico. Ricordate, la loro base di entrate si sposterà verso altri attori potenti. Non trarranno alcun valore dal lavoro della gente comune e sono quindi disincentivati a costruire cose che li trasformino in lavoratori produttivi. Il ritorno sull’investimento — capitale, potere e resilienza — deriva dal garantire che i laboratori di IA possano costruire modelli migliori e che le aziende che li utilizzano possano agire nel mondo. Inoltre, le imposte per il finanziamento degli investimenti umani proverrebbero in gran parte dai laboratori IAG. La concorrenza tra gli Stati implica che, se uno di essi tentasse di istituire un reddito di base (RB) con questa imposta, potrebbe rimanere indietro rispetto agli altri Stati.
• La gente comune non sarà in grado di provvedere a se stessa. La stragrande maggioranza delle persone non avrà il potere economico necessario per avanzare alcuna richiesta. Non saranno in grado di incentivare gli attori che controllano le risorse a investire in loro. Ciò significa che (nella migliore delle ipotesi) faranno affidamento sulla benevola carità degli attori potenti. Nel peggiore dei casi, non riusciranno a guadagnare nemmeno un salario di sussistenza e nessuno interverrà per salvarle.

Per un certo periodo, potrebbero essere in grado di generare del valore. Gli Stati redditieri hanno bisogno di alcuni esseri umani per muovere le cose nel mondo fisico: qualcuno deve estrarre il petrolio dal suolo. Potrebbe darsi che gli esseri umani vengano pagati per il lavoro manuale, mentre gli agenti di IA siano limitati a forme virtuali. Man mano che la robotica migliora⁠⁠11, la richiesta di esseri umani diminuirà. Non saranno in grado di partecipare all’economia perché non potranno fare nulla meglio, più velocemente, a un prezzo inferiore o in modo più affidabile rispetto ai loro sostituti artificiali.

Negli Stati redditieri, il valore deriva principalmente dalle materie prime o dai beni fisici, che vengono poi venduti ad acquirenti stranieri — solitamente altri Stati o imprese. Pochi esseri umani sono coinvolti nella produzione grezza o nella gestione di ciò, ma la maggior parte non ne trae alcun beneficio. Ci si dovrebbe aspettare uno scenario simile anche qui. Ciò porta a una domanda ovvia: per chi stanno producendo, gli attori potenti?

L’economia può emarginare il consumo umano?

Gli attori potenti hanno degli obiettivi, e di conseguenza li avrà anche la produzione dell’economia. Gli Stati vogliono il controllo sul territorio e le aziende vogliono arricchire i loro proprietari. Anche gli individui che hanno accumulato un capitale significativo avranno degli obiettivi. Magari vorranno usare il loro nuovo potere per colonizzare Marte o scavare negli oceani. Potrebbe essere qualcosa di meno storico: molte persone ultra-ricche si accontentano di vivere la propria vita massimizzando il proprio piacere. Tutti loro vorranno assicurarsi che la loro nuova posizione nella società sia al sicuro, e questo potrebbe richiedere enormi quantità di potere e risorse.

Più fondamentalmente, senza la gente comune nel ciclo di produzione del valore, non vi è alcun incentivo affinché il bottino vada a loro. Man mano che gli esseri umani smettono di essere produttori, smettono di guadagnare il potere economico che permette loro di indirizzare l’economia con le proprie scelte di consumo. L’economia li emarginerà sempre di più. Al limite, gran parte dell’economia potrebbe funzionare in cicli che evitano del tutto i consumatori umani.

Spezzare la maledizione delle risorse

Esistono due modi principali in cui gli Stati spezzano completamente la maledizione delle risorse: una governance efficace per ridistribuire le risorse e la diversificazione economica⁠⁠12 per creare incentivi affinché gli Stati si prendano cura dei propri cittadini.

Innanzitutto, uno Stato può creare istituzioni efficaci per gestire una risorsa redditizia. Masi e Ricciuti (2019) hanno rilevato che, dopo la scoperta del petrolio, la maggior parte degli Stati è diventata meno democratica. Tuttavia, gli Stati con preesistenti livelli di democrazia relativamente elevati ne hanno evitato gli impatti negativi.

Prendiamo come esempio la Norvegia. Anzi, si può dire che la Norvegia abbia realizzato un vero e proprio miracolo delle risorse. È uno dei paesi più ricchi al mondo e la sua popolazione ha beneficiato direttamente della sua enorme ricchezza. L’Indice di Sviluppo Umano norvegese è il secondo più alto al mondo. Il suo fondo sovrano, che investe le ingenti rendite petrolifere del paese, vale oltre 1,7 bilioni di dollari, ossia più di 300 000 dollari a persona. Inoltre, si classifica costantemente tra i paesi più felici.

La Norvegia ha spezzato la maledizione delle risorse esclusivamente grazie a un’eccellente governance, ma molti mettono in guardia dal tentare di replicarne il successo. Ha costruito una solida democrazia dotata di un’elevata capacità burocratica prima di scoprire il petrolio. Il dottor Steinar Holden, economista norvegese e già consulente del Ministero delle Finanze, ha spiegato il problema di prenderla a modello:

In che misura l’esperienza norvegese può essere replicata da altri paesi? È difficile valutarlo, in particolare quando si tratta di paesi in una fase di sviluppo politico ed economico completamente diversa. Quando in Norvegia fu scoperto il petrolio, il paese era già una democrazia stabile fin dall’indipendenza ottenuta nel 1905. La burocrazia statale funzionava bene, con poca corruzione. Il sistema giuridico operava efficacemente e i media valutavano e commentavano in modo attivo l’operato del sistema.

Pochi Stati sono democratici, funzionali e con un livello di corruzione basso come la Norvegia. Questa strada è stretta e si restringe sempre di più; il 2024 ha segnato il 19° anno consecutivo di regresso globale della libertà. Raggiungere un simile traguardo è difficile, e farlo rapidamente lo è ancora di più. Pochi Stati diventano democrazie di prim’ordine solo per la prospettiva di scoprire il petrolio in futuro.

In secondo luogo, uno Stato può diversificare l’economia, ponendo il lavoro umano al centro in modo che nessuna singola risorsa possa dominarla. Ciò vale per le economie già diversificate, ma è una strategia efficace anche dopo aver scoperto il petrolio. Ad esempio, mentre il mondo si avvicina al picco della produzione petrolifera, molti petrostati hanno iniziato a diversificare la propria economia. La “Vision 2030” dell’Arabia Saudita mira a fornire “un ambiente favorevole per imprese di tutte le dimensioni”. Non sorprende che, orientandosi verso la diversificazione, l’Arabia Saudita abbia contemporaneamente cercato di riformare il trattamento riservato alle donne. Tuttavia, come già discusso, l’IAG non è una risorsa limitata come il petrolio. Questo significa che l’incentivo a diversificare sarà nettamente inferiore una volta raggiunta un’IA sostitutiva del lavoro.

Esiste una terza via, ma è meno rilevante. Eibl e Hertog 2023 sottolineano che negli Stati autocratici, le minacce credibili di rivolta spingono gli attori potenti a cedere alle masse costruendo degli Stati sociali. Gli autori dimostrano che questo percorso si applica alla maggior parte delle monarchie del Golfo, in particolare all’Oman.

Abbiamo tre obiezioni a questa via come modello per gli Stati autocratici alle prese con la maledizione dell’intelligenza. In primo luogo, riteniamo che ciò non «spezzi» la maledizione delle risorse, poiché permangono gli incentivi che inducono gli Stati a non dare priorità alla popolazione. In secondo luogo, ci aspettiamo, a tal proposito, che la capitolazione non sia stabile. I regimi che riescono a cooptare la propria popolazione dopo minacce di rivolta potrebbero sempre tornare alla repressione. In terzo luogo, riteniamo che questa dinamica abbia molte meno probabilità di rivelarsi efficace per l’IA avanzata, poiché prevediamo che gli Stati dispongano di molto più potere infrastrutturale⁠⁠13 man mano che l’IA progredisce, in linea con la concezione di Bullock, Hammond e Krier del «Leviatano dispotico» alimentato dall’IAG (‘L’IAG, i governi e le società libere’). Di conseguenza, gli attori potenti potrebbero individuare quasi tutte le principali minacce al proprio potere. Inoltre, nuove tecnologie come droni autonomi economici e molto efficaci potrebbero alterare gli equilibri di potere in modo tale che le rivolte armate non possano più minacciare lo Stato. Per tutte queste ragioni, ci aspettiamo che le autocrazie dotate di un’IA sostitutiva del lavoro soccombano alla maledizione dell’intelligenza; la democrazia è probabilmente un presupposto necessario per spezzarla.

Riassumendo: la maledizione delle risorse disincentiva gli Stati dall’investire nella propria popolazione, spesso con risultati disastrosi. Per spezzarla, abbiamo due approcci rilevanti:

• Affidarsi alle istituzioni affinché controllino la risorsa e rimangano ancorate al bene pubblico
• Diversificare l’economia per mettere le persone al centro

Approfondiremo ulteriormente come risolvere la maledizione dell’intelligenza, ma prima considereremo gli effetti che essa ha sul contratto sociale, quanto gli incentivi economici modellino realmente la società e se l’IAG possa cambiare tutto questo.

---

Pubblicazione originale: Luke Drago & Rudolf Laine (2025) The intelligence curse, The Intelligence Curse.