Le persone digitali potrebbero essere ancora più importanti

di Holden Karnofsky

Questo è il terzo post di una serie che spiega il mio punto di vista secondo cui potremmo trovarci nel secolo più importante di tutti i tempi. (Qui trovi la tabella di marcia di questa serie.)

— Il primo articolo di questa serie parla della nostra epoca insolita, che potrebbe essere molto vicina alla transizione tra una civiltà terrestre a una civiltà galattica stabile. — In questo articolo si parla di “persone digitali”, una categoria di tecnologia che potrebbe essere fondamentale per questa transizione (e che avrebbe un impatto ancora maggiore dell’ipotetico Duplicatore discusso in precedenza). — Molte delle idee qui esposte appaiono da qualche parte nella fantascienza o nella saggistica speculativa, ma personalmente non sono a conoscenza di un altro articolo che esponga (in modo sintetico) l’idea alla base delle persone digitali e le ragioni principali per cui un mondo di persone digitali sarebbe così diverso da quello odierno. — L’idea delle persone digitali fornisce un modo concreto di immaginare in che modo il giusto tipo di tecnologia (che ritengo quasi certamente realizzabile) potrebbe cambiare il mondo radicalmente, in modo tale che gli “esseri umani come li conosciamo” non sarebbero più la forza principale sul pianeta. — Sarà importante conoscere questo scenario, perché sosterrò che i progressi dell’intelligenza artificiale in questo secolo potrebbero portare rapidamente alle persone digitali o a una tecnologia altrettanto significativa. Il potenziale di trasformazione di qualcosa come le persone digitali, combinato con la rapidità con cui l’IA potrebbe condurci a questo scenario, ci fa pensare che potremmo trovarci nel secolo più importante.

Introduzione

In precedenza, ho scritto:

Quando alcune persone immaginano il futuro, immaginano il tipo di cose che si vedono nei film di fantascienza. Ma questi futuri fantascientifici sembrano molto blandi, rispetto al futuro che mi aspetto….

Il futuro che immagino è enormemente più grande, più veloce, più strano, o molto migliore o molto peggiore di quello attuale. È anche potenzialmente molto più vicino dei futuri fantascientifici: Penso che tecnologie specifiche, apparentemente realizzabili, potrebbero portarci lì in fretta.

Questo articolo parla delle persone digitali, un esempio⁠a di una tecnologia che potrebbe condurci a un futuro estremamente vasto, veloce e strano.

Per avere un’idea delle persone digitali, immagina una simulazione al computer di una persona specifica, in un ambiente virtuale. Per esempio, una simulazione di te stesso che reagisce a tutti gli “eventi virtuali”: fame virtuale, meteo virtuale, un computer virtuale con una casella di posta elettronica, proprio come faresti tu. (Come in Matrix? Vedi nota a piè di pagina.)⁠b Lo spiego in modo più approfondito nelle FAQ.

Il caso centrale su cui mi concentrerò è quello di persone digitali proprio come noi, magari create tramite il caricamento della mente (simulando cervelli umani). Tuttavia, si potrebbero anche immaginare entità diverse da noi sotto molti aspetti, ma ancora propriamente considerate “discendenti” dell’umanità; anche queste sarebbero persone digitali. (Per saperne di più sulla scelta del termine leggi le FAQ.)

La cultura popolare su questo tipo di argomento tende a concentrarsi sulla prospettiva dell’immortalità digitale: persone che evitano la morte assumendo una forma digitale, di cui si può fare il backup proprio come si fa con i propri dati. Ma ritengo che questo sia un aspetto di poco conto rispetto ad altri potenziali impatti delle persone digitali, in particolare:

Le persone digitali potrebbero essere copiate, proprio come oggi possiamo facilmente fare copie di qualsiasi software. Potrebbero anche essere “eseguite” molto più velocemente degli esseri umani. Per questo motivo, le persone digitali potrebbero avere effetti paragonabili a quelli del Duplicatore, ma anche maggiori: livelli di crescita economica e produttività mai visti (nel corso della storia o nei film di fantascienza).
Oggi vediamo molti progressi nella comprensione delle leggi scientifiche e nello sviluppo di nuove tecnologie, ma non altrettanti nella comprensione della natura umana e del comportamento umano. Le persone digitali cambierebbero radicalmente questa dinamica: le persone potrebbero creare copie di se stesse (comprese copie temporanee e accelerate) per esplorare l’effetto di scelte, stili di vita e ambienti diversi. Il confronto tra le copie ci fornirebbe informazioni in un modo in cui le attuali scienze sociali raramente riescono a fare.
Le persone digitali sperimenterebbero qualsiasi mondo loro (o il controllore del loro ambiente virtuale) desiderino. Supponendo che le persone digitali abbiano una vera esperienza cosciente (ipotesi discussa nelle FAQ), questo potrebbe essere un bene (dovrebbe essere possibile eliminare le malattie, la povertà materiale e la violenza non consensuale per le persone digitali) o un male (se i diritti umani non sono protetti, le persone digitali potrebbero essere soggette a livelli di controllo spaventosi).
La popolazione di persone digitali potrebbe diventare incredibilmente grande e i computer che le gestiscono potrebbero finire per essere distribuiti in tutta la nostra galassia e oltre. Le persone digitali potrebbero esistere ovunque sia possibile far funzionare i computer, quindi gli insediamenti nello spazio potrebbero essere più semplici per le persone digitali che per gli esseri umani biologici.
Nel mondo di oggi siamo abituati all’idea che il futuro sia imprevedibile e incontrollabile. Regimi politici, ideologie e culture vanno e vengono (e si evolvono), ma una comunità, una città o una nazione di persone digitali potrebbe essere molto più stabile.
- Le persone digitali non invecchierebbero né morirebbero.
- Chiunque crei un “ambiente virtuale” che contenga una comunità di persone digitali potrebbe avere un controllo abbastanza duraturo sul modo in cui questa comunità appare. Ad esempio, potrebbe creare un software per riportare la comunità (sia l’ambiente virtuale che le persone che lo compongono) a uno stato precedente se cambiano alcune cose, ad esempio chi è al potere o quale religione è dominante.
- È un’idea inquietante, perché potrebbe consentire un autoritarismo duraturo, ma potrebbe anche consentire cose come la protezione permanente di particolari diritti umani.

Ritengo che questi effetti (illustrati di seguito) possano essere molto positivi o molto negativi. Il modo in cui si svolgeranno i primi anni con le persone digitali potrebbe determinare in modo irreversibile quale dei due scenari potrà avverarsi.

Penso che conseguenze simili si verificherebbero con qualsiasi tecnologia che permetta (a) un controllo estremo sulle nostre esperienze e sul nostro ambiente; (b) la duplicazione di menti umane. Questo significa che ci sono potenzialmente molti modi in cui il futuro potrebbe diventare stravagante come quello che ho tratteggiato qui. Parlo delle persone digitali perché si tratta di un modo particolarmente facile di immaginare le conseguenze di (a) e (b): si tratta essenzialmente di trasferire l’elemento costitutivo più importante del nostro mondo (le menti umane) in un dominio (il software) in cui siamo abituati ad avere un controllo enorme nel programmare qualsiasi comportamento vogliamo.

Gran parte di questo pezzo è ispirato da The Age of Em, un libro insolito e affascinante. Cerca di descrivere un ipotetico mondo di persone digitali (in particolare il caricamento della mente) in modo molto dettagliato, ma (a differenza della fantascienza) mira anche all’accuratezza predittiva piuttosto che all’intrattenimento. In molti punti lo trovo eccessivamente specifico e, nel complesso, non mi aspetto che il mondo descritto finisca per avere molto in comune con un mondo reale pieno di persone digitali. Tuttavia, presenta una serie di sezioni che ritengo illustrino quanto potente e radicale possa essere la tecnologia delle persone digitali.

Di seguito:

Descriverò l’idea alla base delle persone digitali e rimanderò a delle FAQ sull’idea.
Esaminerò le potenziali implicazioni delle persone digitali, elencate sopra.

Questo è un articolo che persone diverse potrebbero voler leggere in ordini diversi. Ecco una guida generale all’articolo e alle FAQ:

	Esseri umani normali	Persone digitali
Possibile oggi (approfondire)	✅	❌
Probabilmente possibile un giorno (approfondire)	✅	✅
Può interagire con il mondo reale, svolgere la maggior parte dei lavori (approfondire)	✅	✅
Cosciente, dovrebbe avere diritti umani (approfondire)	✅	✅
Facilmente duplicabile, come The Duplicator (approfondire)	❌	✅
Può essere eseguito in modo accelerato (approfondire)	❌	✅
Può creare “copie temporanee” che funzionano velocemente e poi si ritirano a bassa velocità (approfondire)	❌	✅
Produttività e scienze sociali: potrebbe causare una crescita economica, una produttività e una conoscenza della natura e del comportamento umano senza precedenti (approfondire)	❌	✅
Controllo dell’ambiente: possono avere le loro esperienze alterate in qualsiasi modo (approfondire)	❌	✅
Lock-in: potrebbero vivere in civiltà altamente stabili, senza invecchiamento o morte, e con “reset digitali” che prevengano certi cambiamenti (approfondire)	❌	✅
Espansione spaziale: possono vivere comodamente ovunque i computer possano funzionare, quindi sono altamente adatti all’espansione galattica (approfondire)	❌	✅
Buono o cattivo? (approfondire)	Fuori dallo scopo di questo pezzo	Potrebbe essere molto buono o cattivo

Premesse

Questo articolo si concentra sul modo in cui le persone digitali potrebbero cambiare il mondo. In particolare, ipotizzerò che le persone digitali sono proprio come noi, tranne che per il fatto che possono essere facilmente copiate, eseguite a velocità diverse e inserite in ambienti virtuali. In particolare, ipotizzerò che le persone digitali siano coscienti, abbiano diritti umani e possano fare la maggior parte delle cose che possono fare gli esseri umani, compresa l’interazione con il mondo reale.

Mi aspetto che molti lettori avranno difficoltà ad affrontare questo argomento finché non vedranno le risposte ad alcune domande di base sulle persone digitali. Pertanto, invito i lettori a cliccare su tutte le domande che sembrano utili dalle FAQ di accompagnamento, oppure a leggere direttamente le FAQ. Ecco l’elenco delle domande trattate nelle FAQ:

Come potrebbero cambiare il mondo le persone digitali?

Produttività

Come qualsiasi software, le persone digitali potrebbero essere copiate istantaneamente e con precisione. Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale sostiene che la capacità di “copiare le persone” potrebbe portare a una rapida accelerazione della crescita economica: “Negli ultimi 100 anni circa, l’economia ha raddoppiato le sue dimensioni ogni pochi decenni. Con un Duplicatore, potrebbe raddoppiare le sue dimensioni ogni anno o mese, fino a raggiungere i limiti”.

Grazie a María Gutiérrez Rojas per questo grafico, una variante di una serie di grafici simili di Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale che illustra il modo in cui la duplicazione delle persone potrebbe causare una crescita esplosiva.

Le persone digitali potrebbero creare un effetto più drammatico di questo, grazie alla loro capacità di essere accelerate (magari di migliaia o milioni di volte)⁠c e rallentate (per risparmiare sui costi). Questo potrebbe aumentare ulteriormente sia la velocità che la capacità di coordinamento.⁠d

Un altro fattore che potrebbe aumentare la produttività: le persone digitali “temporanee” potrebbero portare a termine un compito e poi godersi una bella vita virtuale, continuando a funzionare molto lentamente (e a basso costo).⁠e Questo potrebbe far sì che alcune persone digitali si trovino a loro agio nel copiare se stesse per scopi temporanei. Le persone digitali potrebbero, ad esempio, copiare se stesse centinaia di volte per provare diversi approcci per risolvere un problema o acquisire un’abilità, per poi tenere solo la versione più riuscita e farne molte copie.

È possibile che le persone digitali non siano una forza economica quanto Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale poiché le persone digitali non avrebbero corpi umani. Ma questa sembra essere solo una considerazione minore (dettagli in nota).⁠f

Scienze sociali

Oggi vediamo molte innovazioni e progressi impressionanti in alcune aree e relativamente poco in altre.

Per esempio, siamo costantemente in grado di acquistare computer più economici e più veloci e videogiochi più realistici, ma non sembra che miglioriamo costantemente nel fare amicizia, nell’innamorarci o nel trovare la felicità.⁠g Inoltre, non stiamo chiaramente migliorando in ambiti come la lotta alle dipendenze e nel far sì che noi stessi ci comportiamo come (a pensarci bene) vorremmo.

Un modo di vedere la questione è che le scienze naturali (ad esempio fisica, chimica, biologia) stanno progredendo in modo molto più impressionante delle scienze sociali (ad esempio economia, psicologia, sociologia). Oppure: “Stiamo facendo grandi passi avanti nella comprensione delle leggi naturali, non tanto nella comprensione di noi stessi”.

Le persone digitali potrebbero cambiare questa situazione. Il loro avvento potrebbe risolvere quello che considero forse il motivo fondamentale per cui le scienze sociali sono così difficili da imparare: è troppo difficile condurre esperimenti veri e fare confronti netti.

Oggi, se vogliamo sapere se la meditazione è utile alle persone:

Possiamo confrontare le persone che meditano con quelle che non lo fanno, ma ci saranno molte differenze tra queste persone e non siamo in grado di isolare l’effetto della meditazione stessa. (I ricercatori cercano di farlo con varie tecniche statistiche, ma queste a loro volta danno vita ad altri problemi).
Potremmo anche provare a condurre un esperimento in cui il compito di meditare è assegnato a caso alle persone, ma abbiamo bisogno di molte persone che partecipino, tutte nello stesso momento e nelle stesse condizioni, nella speranza che le differenze tra chi medita e chi non medita si annullino statisticamente e si possano cogliere gli effetti della meditazione. Oggi questo tipo di esperimenti, noti come “studi randomizzati controllati”, è costoso, impegnativo dal punto di vista logistico, richiede molto tempo e finisce quasi sempre con risultati ambigui e difficili da interpretare.

Ma in un mondo con persone digitali:

Chiunque potrebbe creare una copia di se stesso per provare la meditazione, magari dedicandosi ad essa per diversi anni (magari in modo accelerato).⁠h Se i risultati gli piacessero, potrebbe meditare lui stesso per diversi anni e assicurarsi che tutte le copie future siano fatte da qualcuno che ha ottenuto i benefici della meditazione.
Gli scienziati sociali potrebbero studiare le persone che hanno provato cose del genere e cercare degli schemi, cosa che fornirebbe molte più informazioni di quanto non faccia oggi la ricerca nel campo delle scienze sociali. (Si potrebbero anche condurre esperimenti mirati, reclutando/pagando le persone per creare copie di se stessi e provare diversi stili di vita, città, scuole, ecc. — Questi esperimenti potrebbero essere molto più piccoli, più economici e al tempo stesso più conclusivi degli attuali esperimenti di scienze sociali.)⁠i

La possibilità di condurre esperimenti potrebbe essere positiva o negativa, a seconda della solidità e dell’applicazione dell’etica scientifica. Se il consenso informato non fosse sufficientemente tutelato, le persone digitali potrebbero aprire le porte a un’enorme quantità di abusi; se invece lo fosse, si spera che possa consentire soprattutto l’apprendimento.

Le persone digitali potrebbero anche consentire di:

Superare i pregiudizi.** Le persone digitali potrebbero creare copie di se stesse (anche temporanee e velocizzate) per considerare argomenti espressi in modi diversi, da persone diverse, anche con etnia e genere apparentemente diversi, e vedere se le copie giungono a conclusioni diverse. In questo modo potrebbero esplorare quali bias cognitivi (dal sessismo al razzismo, dall’ottimismo irrealistico all’ego) influenzano i loro giudizi e lavorare per migliorare e adattarsi a questi bias. (Anche se le persone non fossero entusiaste di farlo, potrebbero essere costrette a farlo, poiché gli altri potrebbero chiedere informazioni su quanto sono prevenuti e aspettarsi di ottenere dati chiari).
Le persone digitali potrebbero creare copie di se stesse (comprese copie temporanee accelerate) per studiare e discutere a fondo particolari questioni di filosofia, psicologia, ecc. e poi riassumere le loro scoperte all’originale.⁠j Vedendo come diverse copie con diverse competenze ed esperienze di vita hanno formato opinioni diverse, potrebbero avere risposte molto più ponderate e informate di quelle che ho io a domande come “Cosa voglio nella vita?”, “Perché lo voglio?”, “Come posso diventare una persona di cui sono orgoglioso?”, ecc.

Realtà virtuale e controllo dell’ambiente

Come già detto, le persone digitali potrebbero vivere in “ambienti virtuali”. Per progettare un ambiente virtuale, i programmatori dovrebbero generare sistematicamente il giusto tipo di segnali luminosi, sonori, ecc. da inviare alla persona digitale come se fosse “realmente lì”.

Si potrebbe dire che il ruolo storico della scienza e della tecnologia è quello di dare alle persone un maggiore controllo sul loro ambiente. E si potrebbe pensare alle persone digitali quasi come al logico punto di arrivo di questo processo: le persone digitali sperimenterebbero qualsiasi mondo loro (o il controllore del loro ambiente virtuale) desiderino.

Questa potrebbe essere una cosa molto negativa o positiva:

Fonte: The Matrix

Una persona che controlla l’ambiente virtuale di una persona digitale potrebbe avere un controllo quasi illimitato su di essa.

Per questo motivo, sarebbe importante che un mondo di persone digitali includesse l’effettiva applicazione dei diritti umani fondamentali per tutte le persone digitali. (Per saperne di più su questa idea nelle FAQ.)
Un mondo di persone digitali potrebbe diventare molto rapidamente distopico se le persone digitali non fossero tutelate dai diritti umani. Per esempio, immaginate se la regola fosse: “Chiunque possieda un server può farci girare quello che vuole, comprese le copie digitali di chiunque”. A quel punto le persone potrebbero creare “copie digitali” di se stesse su cui eseguire esperimenti, costringerle a fare lavori e persino aprire il proprio sito, in modo che chiunque gestisca un server possa creare e abusare delle copie. Questo brevissimo racconto (consigliato, ma inquietante) dà un’idea di come potrebbe essere la situazione.

Fonte: The Matrix

**D’altra parte, se una persona digitale avesse il controllo del proprio ambiente (o se qualcun altro lo avesse e si prendesse cura di lei), potrebbe essere libera da tutte le esperienze da cui vuole essere libera, compresa la fame, la violenza, le malattie, altre forme di cattiva salute e il dolore debilitante di qualsiasi tipo. In generale, potrebbe essere “libera dai bisogni materiali”, a parte quello delle risorse informatiche necessarie per funzionare.

Si tratta un grande cambiamento rispetto al mondo di oggi. Oggi, se ci si ammala di cancro, si soffre immensamente e si è limitati, anche se tutti al mondo preferirebbero che non fosse così. Le persone digitali non hanno bisogno di sperimentare il cancro se non vogliono che questo accada.
In particolare, la coercizione fisica all’interno di un ambiente virtuale potrebbe essere resa impossibile (potrebbe essere semplicemente impossibile trasmettere segnali a un’altra persona digitale corrispondenti, ad esempio, a un pugno o a uno sparo).
Le persone digitali potrebbero anche avere la capacità di sperimentare molte cose che oggi non possiamo sperimentare: abitare il corpo di un’altra persona, andare nello spazio, trovarsi in una situazione “pericolosa” senza essere effettivamente in pericolo, mangiare senza preoccuparsi delle conseguenze sulla salute, passare da un’etnia o da un genere apparente a un altro, ecc.

Espansione dello spazio

Se le persone digitali subissero un’esplosione della crescita economica, come discusso in precedenza, ciò potrebbe comportare un’esplosione della popolazione delle persone digitali (per ragioni discusse in Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale).

Si potrebbe arrivare al punto di dover costruire astronavi e lasciare il sistema solare per ottenere abbastanza energia, metalli, ecc. per costruire altri computer e consentire l’esistenza di altre vite.

L’insediamento nello spazio potrebbe essere molto più facile per le persone digitali che per quelle biologiche. Potrebbero esistere ovunque sia possibile far funzionare i computer e gli ingredienti di base necessari per farlo (materie prime, energia e “terreni edificabili”)⁠k abbondano nella nostra galassia, non solo sulla Terra. Per questo motivo, la popolazione di persone digitali potrebbe diventare incredibilmente grande.⁠l

Lock-in

Nel mondo di oggi siamo abituati all’idea che il futuro sia imprevedibile e incontrollabile. Regimi politici, ideologie e culture vanno e vengono (e si evolvono). Alcuni sono buoni, altri cattivi, ma in generale non sembra che qualcosa possa durare per sempre. Ma le comunità, le città e le nazioni di persone digitali potrebbero essere molto più stabili.

Innanzitutto, perché le persone digitali non muoiono né invecchiano fisicamente e il loro ambiente non si deteriora né si esaurisce. Finché possono mantenere il loro server in funzione, tutto nel loro ambiente virtuale è fisicamente in grado di rimanere così com’è.

In secondo luogo, perché un ambiente potrebbe essere progettato per forzare la stabilità. Per esempio, immaginiamo che:

Una comunità di persone digitali formi un proprio governo (questo richiederebbe di sopraffare o ottenere il consenso del governo originale).
Il governo diventa autoritario e abolisce le protezioni di base dei diritti umani discusse nelle FAQ.
Chi è al potere vuole assicurarsi di rimanerci o forse di mantenere la propria ideologia di riferimento, per sempre.
Potrebbero modificare l’ambiente virtuale in cui si trovano loro e tutti gli altri cittadini (accedendo al codice sorgente e riprogrammandolo, oppure azionando robot che alterano fisicamente il server), in modo che alcune cose dell’ambiente non possano mai essere cambiate, come ad esempio chi è al potere. Se una cosa del genere stesse per cambiare, l’ambiente virtuale potrebbe semplicemente proibire l’azione o ripristinare uno stato precedente.
Sarebbe comunque possibile modificare l’ambiente virtuale dall’esterno, ad esempio distruggendo fisicamente, violando o alterando in altro modo il server che lo gestisce. Ma se ciò avvenisse dopo un lungo periodo di crescita della popolazione e di colonizzazione dello spazio, il server potrebbe trovarsi nello spazio, lontano anni luce da chiunque sia interessato a fare una cosa del genere.

In alternativa, la “correzione digitale” potrebbe essere una forza per il bene, se usata con saggezza. Potrebbe essere usata per garantire che nessun dittatore prenda mai il potere, o che alcuni diritti umani fondamentali siano sempre protetti. Se una civiltà diventasse abbastanza “matura” (ad esempio, giusta, equa e prospera, con un impegno per la libertà e l’autodeterminazione e una popolazione universalmente prospera) potrebbe mantenere queste proprietà per molto tempo.

Non sono a conoscenza di molte analisi approfondite dell’idea del “lock-in”, ma ho elaborato ulteriormente questa idea qui. Aggiornamento del dicembre 2022: ci sono ulteriori analisi su questo punto qui.

Questi impatti sono positivi o negativi?

Nel corso di questo articolo, immagino che molti lettori abbiano pensato: “Sembra terribile! L’autore pensa che sarebbe un bene?”. Oppure: “Sembra fantastico! L’autore non è d’accordo?”.

La mia opinione su un futuro con persone digitali è che potrebbe essere molto buono o molto cattivo e il modo in cui viene impostato all’inizio potrebbe determinare in modo irreversibile quale dei due scenari si realizzerà.

Un uso affrettato del lock-in (discusso sopra) e/o una diffusione troppo rapida attraverso la galassia (discusso sopra) potrebbero portare a un mondo enorme pieno di persone digitali (consapevoli come noi) che sarà fortemente disfunzionale, distopico o almeno al di sotto del suo potenziale.
Ma condizioni iniziali accettabilmente buone (protezione dei diritti umani di base per le persone digitali, come minimo), oltre a molta pazienza e l’accumulo di saggezza e autoconsapevolezza che oggi non abbiamo (forse facilitato da migliori scienze sociali), potrebbero portare a un mondo grande, stabile e molto migliore. Dovrebbe essere possibile eliminare le malattie, la povertà materiale e la violenza non consensuale, e creare una società molto migliore di quella attuale.

Prossimo articolo della serie: Tempi eccezionali

Pubblicazione originale: Holden Karnofsky (2021) Digital people would be an even bigger deal, Cold Takes, 27 di luglio.

Le persone digitali potrebbero essere ancora più importanti

di Holden Karnofsky

Questo è il terzo post di una serie che spiega il mio punto di vista secondo cui potremmo trovarci nel secolo più importante di tutti i tempi. (Qui trovi la tabella di marcia di questa serie.)

— Il primo articolo di questa serie parla della nostra epoca insolita, che potrebbe essere molto vicina alla transizione tra una civiltà terrestre a una civiltà galattica stabile. — In questo articolo si parla di “persone digitali”, una categoria di tecnologia che potrebbe essere fondamentale per questa transizione (e che avrebbe un impatto ancora maggiore dell’ipotetico Duplicatore discusso in precedenza). — Molte delle idee qui esposte appaiono da qualche parte nella fantascienza o nella saggistica speculativa, ma personalmente non sono a conoscenza di un altro articolo che esponga (in modo sintetico) l’idea alla base delle persone digitali e le ragioni principali per cui un mondo di persone digitali sarebbe così diverso da quello odierno. — L’idea delle persone digitali fornisce un modo concreto di immaginare in che modo il giusto tipo di tecnologia (che ritengo quasi certamente realizzabile) potrebbe cambiare il mondo radicalmente, in modo tale che gli “esseri umani come li conosciamo” non sarebbero più la forza principale sul pianeta. — Sarà importante conoscere questo scenario, perché sosterrò che i progressi dell’intelligenza artificiale in questo secolo potrebbero portare rapidamente alle persone digitali o a una tecnologia altrettanto significativa. Il potenziale di trasformazione di qualcosa come le persone digitali, combinato con la rapidità con cui l’IA potrebbe condurci a questo scenario, ci fa pensare che potremmo trovarci nel secolo più importante.

Introduzione

In precedenza, ho scritto:

Questo articolo parla delle persone digitali, un esempio⁠a di una tecnologia che potrebbe condurci a un futuro estremamente vasto, veloce e strano.

Le persone digitali potrebbero essere copiate, proprio come oggi possiamo facilmente fare copie di qualsiasi software. Potrebbero anche essere “eseguite” molto più velocemente degli esseri umani. Per questo motivo, le persone digitali potrebbero avere effetti paragonabili a quelli del Duplicatore, ma anche maggiori: livelli di crescita economica e produttività mai visti (nel corso della storia o nei film di fantascienza).
Oggi vediamo molti progressi nella comprensione delle leggi scientifiche e nello sviluppo di nuove tecnologie, ma non altrettanti nella comprensione della natura umana e del comportamento umano. Le persone digitali cambierebbero radicalmente questa dinamica: le persone potrebbero creare copie di se stesse (comprese copie temporanee e accelerate) per esplorare l’effetto di scelte, stili di vita e ambienti diversi. Il confronto tra le copie ci fornirebbe informazioni in un modo in cui le attuali scienze sociali raramente riescono a fare.
Le persone digitali sperimenterebbero qualsiasi mondo loro (o il controllore del loro ambiente virtuale) desiderino. Supponendo che le persone digitali abbiano una vera esperienza cosciente (ipotesi discussa nelle FAQ), questo potrebbe essere un bene (dovrebbe essere possibile eliminare le malattie, la povertà materiale e la violenza non consensuale per le persone digitali) o un male (se i diritti umani non sono protetti, le persone digitali potrebbero essere soggette a livelli di controllo spaventosi).
La popolazione di persone digitali potrebbe diventare incredibilmente grande e i computer che le gestiscono potrebbero finire per essere distribuiti in tutta la nostra galassia e oltre. Le persone digitali potrebbero esistere ovunque sia possibile far funzionare i computer, quindi gli insediamenti nello spazio potrebbero essere più semplici per le persone digitali che per gli esseri umani biologici.
Nel mondo di oggi siamo abituati all’idea che il futuro sia imprevedibile e incontrollabile. Regimi politici, ideologie e culture vanno e vengono (e si evolvono), ma una comunità, una città o una nazione di persone digitali potrebbe essere molto più stabile.
- Le persone digitali non invecchierebbero né morirebbero.
- Chiunque crei un “ambiente virtuale” che contenga una comunità di persone digitali potrebbe avere un controllo abbastanza duraturo sul modo in cui questa comunità appare. Ad esempio, potrebbe creare un software per riportare la comunità (sia l’ambiente virtuale che le persone che lo compongono) a uno stato precedente se cambiano alcune cose, ad esempio chi è al potere o quale religione è dominante.
- È un’idea inquietante, perché potrebbe consentire un autoritarismo duraturo, ma potrebbe anche consentire cose come la protezione permanente di particolari diritti umani.

Di seguito:

Descriverò l’idea alla base delle persone digitali e rimanderò a delle FAQ sull’idea.
Esaminerò le potenziali implicazioni delle persone digitali, elencate sopra.

Questo è un articolo che persone diverse potrebbero voler leggere in ordini diversi. Ecco una guida generale all’articolo e alle FAQ:

	Esseri umani normali	Persone digitali
Possibile oggi (approfondire)	✅	❌
Probabilmente possibile un giorno (approfondire)	✅	✅
Può interagire con il mondo reale, svolgere la maggior parte dei lavori (approfondire)	✅	✅
Cosciente, dovrebbe avere diritti umani (approfondire)	✅	✅
Facilmente duplicabile, come The Duplicator (approfondire)	❌	✅
Può essere eseguito in modo accelerato (approfondire)	❌	✅
Può creare “copie temporanee” che funzionano velocemente e poi si ritirano a bassa velocità (approfondire)	❌	✅
Produttività e scienze sociali: potrebbe causare una crescita economica, una produttività e una conoscenza della natura e del comportamento umano senza precedenti (approfondire)	❌	✅
Controllo dell’ambiente: possono avere le loro esperienze alterate in qualsiasi modo (approfondire)	❌	✅
Lock-in: potrebbero vivere in civiltà altamente stabili, senza invecchiamento o morte, e con “reset digitali” che prevengano certi cambiamenti (approfondire)	❌	✅
Espansione spaziale: possono vivere comodamente ovunque i computer possano funzionare, quindi sono altamente adatti all’espansione galattica (approfondire)	❌	✅
Buono o cattivo? (approfondire)	Fuori dallo scopo di questo pezzo	Potrebbe essere molto buono o cattivo

Premesse

Come potrebbero cambiare il mondo le persone digitali?

Produttività

Scienze sociali

Oggi vediamo molte innovazioni e progressi impressionanti in alcune aree e relativamente poco in altre.

Oggi, se vogliamo sapere se la meditazione è utile alle persone:

Possiamo confrontare le persone che meditano con quelle che non lo fanno, ma ci saranno molte differenze tra queste persone e non siamo in grado di isolare l’effetto della meditazione stessa. (I ricercatori cercano di farlo con varie tecniche statistiche, ma queste a loro volta danno vita ad altri problemi).
Potremmo anche provare a condurre un esperimento in cui il compito di meditare è assegnato a caso alle persone, ma abbiamo bisogno di molte persone che partecipino, tutte nello stesso momento e nelle stesse condizioni, nella speranza che le differenze tra chi medita e chi non medita si annullino statisticamente e si possano cogliere gli effetti della meditazione. Oggi questo tipo di esperimenti, noti come “studi randomizzati controllati”, è costoso, impegnativo dal punto di vista logistico, richiede molto tempo e finisce quasi sempre con risultati ambigui e difficili da interpretare.

Ma in un mondo con persone digitali:

Chiunque potrebbe creare una copia di se stesso per provare la meditazione, magari dedicandosi ad essa per diversi anni (magari in modo accelerato).⁠h Se i risultati gli piacessero, potrebbe meditare lui stesso per diversi anni e assicurarsi che tutte le copie future siano fatte da qualcuno che ha ottenuto i benefici della meditazione.
Gli scienziati sociali potrebbero studiare le persone che hanno provato cose del genere e cercare degli schemi, cosa che fornirebbe molte più informazioni di quanto non faccia oggi la ricerca nel campo delle scienze sociali. (Si potrebbero anche condurre esperimenti mirati, reclutando/pagando le persone per creare copie di se stessi e provare diversi stili di vita, città, scuole, ecc. — Questi esperimenti potrebbero essere molto più piccoli, più economici e al tempo stesso più conclusivi degli attuali esperimenti di scienze sociali.)⁠i

Le persone digitali potrebbero anche consentire di:

Superare i pregiudizi.** Le persone digitali potrebbero creare copie di se stesse (anche temporanee e velocizzate) per considerare argomenti espressi in modi diversi, da persone diverse, anche con etnia e genere apparentemente diversi, e vedere se le copie giungono a conclusioni diverse. In questo modo potrebbero esplorare quali bias cognitivi (dal sessismo al razzismo, dall’ottimismo irrealistico all’ego) influenzano i loro giudizi e lavorare per migliorare e adattarsi a questi bias. (Anche se le persone non fossero entusiaste di farlo, potrebbero essere costrette a farlo, poiché gli altri potrebbero chiedere informazioni su quanto sono prevenuti e aspettarsi di ottenere dati chiari).
Le persone digitali potrebbero creare copie di se stesse (comprese copie temporanee accelerate) per studiare e discutere a fondo particolari questioni di filosofia, psicologia, ecc. e poi riassumere le loro scoperte all’originale.⁠j Vedendo come diverse copie con diverse competenze ed esperienze di vita hanno formato opinioni diverse, potrebbero avere risposte molto più ponderate e informate di quelle che ho io a domande come “Cosa voglio nella vita?”, “Perché lo voglio?”, “Come posso diventare una persona di cui sono orgoglioso?”, ecc.

Realtà virtuale e controllo dell’ambiente

Questa potrebbe essere una cosa molto negativa o positiva:

Fonte: The Matrix

Una persona che controlla l’ambiente virtuale di una persona digitale potrebbe avere un controllo quasi illimitato su di essa.

Per questo motivo, sarebbe importante che un mondo di persone digitali includesse l’effettiva applicazione dei diritti umani fondamentali per tutte le persone digitali. (Per saperne di più su questa idea nelle FAQ.)
Un mondo di persone digitali potrebbe diventare molto rapidamente distopico se le persone digitali non fossero tutelate dai diritti umani. Per esempio, immaginate se la regola fosse: “Chiunque possieda un server può farci girare quello che vuole, comprese le copie digitali di chiunque”. A quel punto le persone potrebbero creare “copie digitali” di se stesse su cui eseguire esperimenti, costringerle a fare lavori e persino aprire il proprio sito, in modo che chiunque gestisca un server possa creare e abusare delle copie. Questo brevissimo racconto (consigliato, ma inquietante) dà un’idea di come potrebbe essere la situazione.

Fonte: The Matrix

Si tratta un grande cambiamento rispetto al mondo di oggi. Oggi, se ci si ammala di cancro, si soffre immensamente e si è limitati, anche se tutti al mondo preferirebbero che non fosse così. Le persone digitali non hanno bisogno di sperimentare il cancro se non vogliono che questo accada.
In particolare, la coercizione fisica all’interno di un ambiente virtuale potrebbe essere resa impossibile (potrebbe essere semplicemente impossibile trasmettere segnali a un’altra persona digitale corrispondenti, ad esempio, a un pugno o a uno sparo).
Le persone digitali potrebbero anche avere la capacità di sperimentare molte cose che oggi non possiamo sperimentare: abitare il corpo di un’altra persona, andare nello spazio, trovarsi in una situazione “pericolosa” senza essere effettivamente in pericolo, mangiare senza preoccuparsi delle conseguenze sulla salute, passare da un’etnia o da un genere apparente a un altro, ecc.

Espansione dello spazio

Lock-in

In secondo luogo, perché un ambiente potrebbe essere progettato per forzare la stabilità. Per esempio, immaginiamo che:

Una comunità di persone digitali formi un proprio governo (questo richiederebbe di sopraffare o ottenere il consenso del governo originale).
Il governo diventa autoritario e abolisce le protezioni di base dei diritti umani discusse nelle FAQ.
Chi è al potere vuole assicurarsi di rimanerci o forse di mantenere la propria ideologia di riferimento, per sempre.
Potrebbero modificare l’ambiente virtuale in cui si trovano loro e tutti gli altri cittadini (accedendo al codice sorgente e riprogrammandolo, oppure azionando robot che alterano fisicamente il server), in modo che alcune cose dell’ambiente non possano mai essere cambiate, come ad esempio chi è al potere. Se una cosa del genere stesse per cambiare, l’ambiente virtuale potrebbe semplicemente proibire l’azione o ripristinare uno stato precedente.
Sarebbe comunque possibile modificare l’ambiente virtuale dall’esterno, ad esempio distruggendo fisicamente, violando o alterando in altro modo il server che lo gestisce. Ma se ciò avvenisse dopo un lungo periodo di crescita della popolazione e di colonizzazione dello spazio, il server potrebbe trovarsi nello spazio, lontano anni luce da chiunque sia interessato a fare una cosa del genere.

Questi impatti sono positivi o negativi?

Un uso affrettato del lock-in (discusso sopra) e/o una diffusione troppo rapida attraverso la galassia (discusso sopra) potrebbero portare a un mondo enorme pieno di persone digitali (consapevoli come noi) che sarà fortemente disfunzionale, distopico o almeno al di sotto del suo potenziale.
Ma condizioni iniziali accettabilmente buone (protezione dei diritti umani di base per le persone digitali, come minimo), oltre a molta pazienza e l’accumulo di saggezza e autoconsapevolezza che oggi non abbiamo (forse facilitato da migliori scienze sociali), potrebbero portare a un mondo grande, stabile e molto migliore. Dovrebbe essere possibile eliminare le malattie, la povertà materiale e la violenza non consensuale, e creare una società molto migliore di quella attuale.

Prossimo articolo della serie: Tempi eccezionali

Pubblicazione originale: Holden Karnofsky (2021) Digital people would be an even bigger deal, Cold Takes, 27 di luglio.