Sintesi del disempowerment graduale
Questo è un riassunto di "‘Disempowerment graduale’" di Kulveit et al. Il post vuole essere un’introduzione accessibile, ma invitiamo il lettore curioso a consultare l’articolo per una trattazione più approfondita.
Introduzione
Ti ritrovi nel 2040. Tutto sembra meraviglioso: il denaro abbonda, l’intrattenimento è personalizzato per soddisfare ogni capriccio e dei carismatici compagni basati sull’IA sono i migliori interlocutori che tu possa immaginare. Terminator non ha conquistato il mondo. Le preoccupazioni sulla sicurezza dell’IA sono state in gran parte accantonate.
Esplori più a fondo: certo, i tuoi bisogni sono ampiamente soddisfatti, ma ti rendi conto di non avere in realtà alcun potere di agire nel mondo. Riesci a malapena a instaurare legami con altre persone, troppo impegnate a parlare con i propri chatbot. Non hai un lavoro: l’IA fa tutto per te. Non puoi creare nulla, dato che l’IA ti batte anche in questo. Forse ci sono ancora delle «elezioni», ma le burocrazie dell’IA sono diventate così complicate che i governi non possono veramente cambiare il sistema. Ora sono gli algoritmi a decidere tutto. Ti rendi conto che questo «Nuovo Mondo» è essenzialmente uno zoo umano.
Questo è il mondo da cui ci mette in guardia l’articolo "‘Disempowerment graduale’". Il testo descrive come i sistemi sociali odierni funzionino per lo più al servizio dei bisogni e dei desideri umani, ma potrebbero subire pressioni estreme ad automatizzarsi tramite l’IA. Gli autori sostengono che i sistemi sociali che non necessitano degli esseri umani per funzionare trascurano i bisogni e i desideri umani, privando l’umanità del potere di plasmare il proprio futuro.
I sistemi sociali odierni sono per lo più positivi
Si possono immaginare i sistemi sociali odierni come composti da tre parti principali:
- L’economia
- La cultura
- I governi o gli Stati-nazione
Questi sistemi sono ben lungi dall’essere perfetti, ma sono migliori di quelli che li hanno preceduti. Il numero di persone (in percentuale rispetto alla popolazione totale) che vivono in povertà o muoiono a causa di malattie prevenibili è più basso che mai. La maggior parte delle persone, specialmente quelle che vivono nelle democrazie, conduce una vita piuttosto buona.
Esaminiamo ciascuno di questi sistemi e spieghiamo in che modo gli esseri umani ne influenzano il funzionamento.
Economia
L’economia rappresenta il modo in cui produciamo, acquistiamo e vendiamo beni, nonché il modo in cui il denaro circola tra persone, aziende e governi. Avere denaro significa poter consumare beni e servizi e quindi influenzare ciò che l’economia produce.
Nel Regno Unito, circa il 60% della torta economica (la ricchezza creata o il denaro che passa di mano in mano) va ogni anno ai lavoratori sotto forma di salari, mentre il restante 40% va a chi possiede beni materiali o patrimoni (ad esempio azionisti, imprenditori, proprietari immobiliari).
Poiché i lavoratori percepiscono il 60%, hanno un grande potere e una forte influenza su ciò che viene prodotto nell’economia. Le loro scelte d’acquisto determinano ciò che viene prodotto e poi venduto.
Ad esempio, se in questo momento ti trovi in una città, ci sono probabilmente 10 bar a meno di 10 minuti a piedi da te, perché tantissimi lavoratori vogliono il loro (delizioso?) caffè di prima mattina. C’è quindi una forte domanda per questo prodotto e, di conseguenza, qualcuno decide di offrirlo.
Cultura
La cultura comprende i media che consumiamo, i costumi che seguiamo e le norme sociali secondo cui viviamo. Essa plasma il modo in cui pensiamo, ci comportiamo e ci relazioniamo gli uni con gli altri.
Le persone si orientano verso le culture che soddisfano le loro esigenze. Le culture che non si adattano o non rispondono ai bisogni dei propri membri semplicemente si estinguono: le persone le abbandonano in cerca di alternative migliori, oppure vengono soppiantate da culture più sane. Ciò significa che le persone hanno un potere reale nel plasmare la cultura: producono contenuti, mettono in discussione le norme e boicottano ciò che non le aggrada.
Pensa a Nokia. L’azienda aveva una cultura rigida che non ha saputo adattarsi all’arrivo degli smartphone: Apple le ha soffiato il posto. Il motivo per cui le aziende dedicano così tanto tempo a riflettere sulla «cultura» è che una buona cultura è essenziale per il successo.
Gli Stati
Il governo svolge funzioni fondamentali per la società. Senza di esso, la sanità, la difesa, l’istruzione e lo Stato di diritto crollerebbero. Pur disponendo di un potere enorme, il governo è vincolato dalle richieste delle persone che governa, perfino nelle autocrazie.
In definitiva, i governi hanno bisogno di una forza lavoro istruita, qualificata e altamente motivata per ottenere un gettito fiscale sufficiente. Oltre il 70% delle entrate del governo britannico proviene direttamente dalla popolazione, attraverso vari tipi di imposte.
I governi hanno inoltre bisogno di personale per l’apparato di sicurezza nazionale. Anche le autocrazie devono contare su persone per i propri servizi di sicurezza. Molte rivoluzioni hanno avuto successo perché, quando si è arrivati al dunque, i militari si sono rifiutati di aprire il fuoco sui manifestanti. La rivoluzione del luglio 2024 in Bangladesh ne è un esempio.
I sistemi subiscono pressioni per essere automatizzati dall’IA
Tutti questi sistemi sociali subiscono un’enorme pressione ad essere automatizzati.
L’economia
Immagina di essere a capo di un’azienda di successo. Ci tieni al tuo personale, ma vedi che tutti i tuoi concorrenti stanno lentamente automatizzando le proprie attività, ricavandone così profitti enormi. I tuoi azionisti ti incoraggiano a fare lo stesso.
Ora immagina questa dinamica su scala sociale. Alcune aziende puntano sull’automazione esclusivamente per massimizzare i profitti. Altre lo fanno per rimanere competitive rispetto a quelle già automatizzate. Persino gli ultimi irriducibili che resistono all’automazione si trovano ad affrontare un’economia che si muove così velocemente ed è così complessa da costringerli a delegare tutte le principali decisioni strategiche all’IA.
L’economia è stata in gran parte automatizzata.
Cultura
Prima di Internet, ottenevamo le nostre informazioni da fonti condivise. La nostra comunità locale, i giornali e le emittenti televisive si attenevano in gran parte alla verità. Vivevamo in una realtà condivisa.
Il mondo di oggi appare ben diverso. Le informazioni sono ancora prodotte dalle persone, ma ciò a cui siamo esposti è determinato dagli algoritmi opachi dei social media. Le «camere di risonanza» sono diventate un grosso problema.
Immagina che questa tendenza continui. Invece di avere semplicemente raccomandazioni algoritmiche, avremo contenuti prodotti dall’intelligenza artificiale, iper-personalizzati in base a ogni nostro capriccio. La produzione culturale consisterà sempre più nel fornire prompt ai sistemi artificiali, e ben presto quei sistemi sapranno abbastanza di noi da produrre i contenuti che desideriamo prima ancora che ci rendiamo conto di volerli.
È facile capire come ciò avvenga. La cultura di massa richiede tempo per essere prodotta e necessita di un modo per raggiungere un ampio gruppo di persone. Paragonala ai contenuti artificiali, che possono essere creati all’istante ed essere altamente personalizzati in base alle esigenze del singolo. È difficile immaginare come la cultura creata dall’uomo possa prevalere.
Anche la cultura finisce per essere automatizzata…
Stati
Se sei un dittatore, è ovvio che vorresti automatizzare il più possibile l’apparato statale. Una minore dipendenza dagli altri significa minori probabilità che questi possano rovesciarti. Abbiamo già visto la sorveglianza automatizzata in Cina, e il conflitto tra Russia e Ucraina ha dimostrato che i droni sono il futuro del combattimento. Dovremmo aspettarci che queste tendenze continuino.
La cosa davvero preoccupante è che anche nelle democrazie potremmo assistere a una progressiva perdita di rilevanza delle persone. Man mano che i sistemi artificiali diventano sempre più complessi, diventerà sempre più facile affidarsi a essi per prendere decisioni in modo efficiente. Ciò vale in particolare se ci si trova a competere con altri Stati che a loro volta si sono ampiamente automatizzati. Certo, potrebbero esserci delle «elezioni» ogni 5 anni, ma in pratica i governi sono impotenti nel modificare i sistemi a cui ormai si affidano in quasi ogni ambito.
Dopo un po’, se quasi tutto il lavoro economico sarà svolto dalle IA e i governi smetteranno di aver bisogno delle persone per la riscossione delle tasse, allora il destino della democrazia potrebbe diventare una questione aperta…
I sistemi sociali automatizzati dall’IA sono dannosi per gli esseri umani
I nostri sistemi sociali non sono buoni di per sé. Si sono evoluti nel corso di migliaia di anni per arrivare al punto in cui si trovano ora. Durante tutto quel tempo, alla base di essi c’è stato un unico presupposto: questi sistemi sono progettati per le persone e creati dalle persone. "‘Disempowerment graduale’" ci invita a considerare un mondo in cui, lentamente, nel corso degli anni, questo presupposto smette di essere vero.
Le prospettive sono cupe. Di default, un’economia completamente automatizzata implica che il valore del lavoro umano si riduca a zero. Se la maggior parte degli esseri umani smette di ricevere uno stipendio, allora la quota dell’economia che produce beni per queste persone è destinata a scomparire. Anche coloro che conservano un potere finanziario non possono, in pratica, influenzare l’economia, poiché ora essa si muove troppo rapidamente perché gli umani possano comprenderla. Nel caso estremo, possiamo immaginare aziende interamente composte da IA, che producono beni per consumatori IA. Chi provvederà allora ai bisogni umani fondamentali…
Il discorso è simile per la cultura. Il 29% degli americani sotto i 30 anni dichiara di sentirsi solo la maggior parte del tempo. Immagina che questo vuoto venga colmato da compagni basati sull’IA. Sono sempre disponibili, non ti giudicano mai e ti dicono esattamente ciò che vuoi sentirti dire. Col passare del tempo, questa diventa la forma prevalente di amicizia e di partecipazione culturale. I feed delle persone sono pieni di contenuti generati dall’IA e le loro conversazioni avvengono tutte con l’IA. In questo mondo, i legami umani passano in secondo piano. È anche difficile immaginare che gli esseri umani possano coordinarsi su qualcosa in un simile contesto; come si fa a ispirare qualcuno a uscire dalla propria bolla di IA per partecipare a una protesta? Gli esseri umani sono stati completamente privati del loro potere in questo mondo.
Anche se questo scenario non dovesse verificarsi, ci sono comunque altri modi in cui gli esseri umani potrebbero essere gradualmente privati di potere rispetto alle IA. Se l’IA è molto più veloce nel produrre contenuti culturali, possiamo immaginare di essere sommersi da contenuti prodotti dall’IA. Per ora potrebbe trattarsi di robaccia, ma la qualità sta aumentando rapidamente. Potremmo semplicemente diventare inermi consumatori della cultura dell’IA, o pedine nella guerra culturale dell’IA.
Infine, consideriamo gli Stati. Man mano che sempre più decisioni statali vengono delegate all’IA, la burocrazia dello Stato potrebbe diventare così complessa e in rapida evoluzione che nessuno riuscirà più a padroneggiarla. Gli esseri umani non saranno più in grado di comprendere da soli i sistemi legali e normativi.
Peggio ancora, lo Stato smette di fare affidamento sugli esseri umani dal punto di vista economico o per motivi di sicurezza. È difficile immaginare come, in uno scenario del genere, esso possa essere incentivato a preoccuparsi anche solo dei propri cittadini. Possiamo già osservare questa dinamica in atto negli Stati, affetti dalla «maledizione delle risorse». Un paese ricco di petrolio come il Venezuela non ha alcun motivo di preoccuparsi dei propri cittadini: tutte le entrate provengono dal petrolio. Ora immagina il Venezuela con un apparato di sicurezza completamente automatizzato. Questo è il futuro contro cui ci mette in guardia «‘Disempowerment graduale’».
Tutte queste dinamiche interagiscono tra loro. Un’economia automatizzata rende più facile per gli Stati ignorare le preferenze dei propri cittadini. Una cultura automatizzata contribuisce a tenere le persone in riga. Queste dinamiche si rafforzano a vicenda e, se finissimo in un mondo in cui siamo stati gradualmente privati del potere, sarebbe difficile intravedere una via d’uscita.
Cosa puoi fare
La perdita graduale di potere è un problema attualmente poco esplorato e c’è molto lavoro utile che si può svolgere al riguardo:
- Come potremmo accorgerci se siamo stati gradualmente privati del potere? A questo proposito, quanto siamo vicini a esserlo oggi?
- Avere assistenti personali basati sull’IA che agiscono per nostro conto sarebbe d’aiuto o peggiorerebbe le cose?
- Tecnologie che ci aiutano a identificare i contenuti generati dall’IA, o metodi per verificare che un contenuto sia stato creato da esseri umani
- Indagini su come i paesi dotati di risorse naturali siano riusciti a evitare la «maledizione delle risorse» e a costruire invece democrazie resilienti (ad es. la Norvegia).
Queste sono solo alcune idee! C’è molto che puoi fare se questa questione ti preoccupa, e non vediamo l’ora di scoprire cosa proporrai durante il corso.