In questo pezzo si discutono le questioni di base relative alle “persone digitali”, ovvero simulazioni al computer estremamente dettagliate e realistiche di persone specifiche. Si tratta di una tecnologia ipotetica (ma, credo, realistica) che potrebbe essere fondamentale per la transizione verso una civiltà stabile e galattica. (L’altro pezzo descrive le conseguenze di una tale tecnologia; questo pezzo si concentra sulle domande di base su come potrebbe funzionare).
Sarà importante avere questa visione d’insieme, perché sosterrò che i progressi dell’intelligenza artificiale in questo secolo potrebbero portare rapidamente alle persone digitali o a una tecnologia altrettanto significativa. Il potenziale di trasformazione di tecnologie come le persone digitali, combinato con la rapidità con cui l’IA potrebbe realizzarle, ci fa ritenere che potremmo trovarci nel secolo più importante.
Questa tabella (contenuta anche nell’altro articolo) serve a riassumere i due articoli insieme:
Può essere eseguito in modo accelerato (approfondire)
❌
✅
Può creare “copie temporanee” che funzionano velocemente e poi si ritirano a bassa velocità (approfondire)
❌
✅
Produttività e scienze sociali: potrebbe causare una crescita economica, una produttività e una conoscenza della natura e del comportamento umano senza precedenti (approfondire)
❌
✅
Controllo dell’ambiente: possono avere le loro esperienze alterate in qualsiasi modo (approfondire)
❌
✅
Lock-in: potrebbero vivere in civiltà altamente stabili, senza invecchiamento o morte, e con “reset digitali” che prevengano certi cambiamenti (approfondire)
❌
✅
Espansione spaziale: possono vivere comodamente ovunque i computer possano funzionare, quindi sono altamente adatti all’espansione galattica (approfondire)
Per avere un’idea delle persone digitali, immaginate una simulazione al computer di una persona specifica, in un ambiente virtuale. Ad esempio, una simulazione di voi stessi che reagisce a tutti gli “eventi virtuali” (fame virtuale, tempo atmosferico virtuale, un computer virtuale con una casella di posta elettronica) proprio come fareste voi.
Il film Matrix dà una discreta intuizione dell’idea con la sua realtà virtuale completamente immersiva. Ma a differenza degli eroi di Matrix, una persona digitale non ha bisogno di essere collegata ad alcuna persona fisica: potrebbe esistere come puro softwarea.
Come altri software, le persone digitali potrebbero essere copiate (ala Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale) e funzionare a velocità diverse. E i loro ambienti virtuali non dovrebbero obbedire alle regole del mondo reale: potrebbero funzionare come vogliono i progettisti dell’ambiente. Queste proprietà sono alla base della maggior parte delle conseguenze di cui parlo nel pezzo principale.
È difficile da immaginare. Puoi usare un’analogia?
Oggi non c’è nulla che assomigli molto a una persona digitale, ma per iniziare ad avvicinarci all’idea, consideriamo questa persona simulata:
È il leggendario giocatore di football Jerry Rice, ritratto nel videogioco Madden NFL 98. Probabilmente rappresenta quanto di meglio si potesse fare all’epoca (1997) per simulare il vero Jerry Rice, nel contesto di un videogioco di football.
L’idea è che il personaggio del videogioco corra, salti, prenda la palla, la lasci cadere e risponda ai placcaggi nel modo più simile possibile a come farebbe il vero Jerry Rice in situazioni analoghe. (Almeno, questo è ciò che fa quando il giocatore del videogioco non lo controlla esplicitamente). La simulazione è una versione molto rozza, semplificata e limitata alle partite di football della vita reale.
Nel corso degli anni, i videogiochi sono progrediti e le loro simulazioni di Jerry Rice (così come del resto quelle dei giocatori, del campo da football, ecc.) sono diventate sempre più realistiche:b
Ok, l’ultima è una foto del vero Jerry Rice. Ma immaginate che gli sviluppatori del videogioco continuino a rendere le loro simulazioni di Jerry Rice sempre più realistiche e l’universo del gioco sempre più vasto,c al punto che il Jerry Rice simulato rilasci interviste a giornalisti virtuali, scherzi con i suoi figli virtuali, faccia la dichiarazione delle tasse virtuali e ogni altra cosa esattamente come farebbe il vero Jerry Rice.
In questo caso, il Jerry Rice simulato avrebbe una mente che funziona proprio come quella del Jerry Rice reale. Sarebbe una versione “persona digitale” di Jerry Rice.
Ora immaginate di poter fare la stessa cosa per ~tutti e starete immaginando un mondo di persone digitali.
Le persone digitali potrebbero interagire con il mondo reale? Ad esempio, un’azienda del mondo reale potrebbe assumere una persona digitale per lavorare per essa?
Sì e sì.
Una persona digitale potrebbe essere collegata a un corpo robotico. Le telecamere potrebbero inviare segnali luminosi alla mente della persona digitale e i microfoni potrebbero inviare segnali sonori; la persona digitale potrebbe inviare segnali per muovere, ad esempio, la mano, che verrebbero inviati al robot. In genere gli esseri umani possono imparare a controllare gli impianti in questo modo, quindi sembra molto probabile che le persone digitali possano imparare a pilotare i robot.
Le persone digitali potrebbero abitare in un “ufficio” virtuale con un monitor virtuale che visualizza il loro browser, una tastiera virtuale su cui digitare, ecc. Potrebbero usare questa configurazione per inviare informazioni su Internet proprio come fanno gli esseri umani biologici (e come fanno i bot di oggi). Potrebbero quindi rispondere alle e-mail, scrivere e inviare promemoria, twittare e svolgere altre attività di “lavoro a distanza” in modo piuttosto normale, senza bisogno di un “corpo” reale.
L’ufficio virtuale non deve necessariamente essere come il mondo reale in tutti i suoi dettagli: un ambiente virtuale piuttosto semplice con un “computer virtuale” di base potrebbe essere sufficiente perché una persona digitale possa svolgere la maggior parte del “lavoro a distanza”.
Potrebbe anche effettuare telefonate e videochiamate con esseri umani biologici, trasmettendo il proprio “volto/voce virtuale” all’uomo biologico dall’altra parte.
Nel complesso, sembra che si possa avere con una persona digitale lo stesso rapporto che si può avere con qualsiasi persona in carne e ossa.
Umani e persone digitali
Le persone digitali potrebbero essere coscienti? Potrebbero avere diritti umani?
Supponiamo che esista una copia digitale dettagliata di voi stessi, che invia/riceve segnali a/da un corpo virtuale in un mondo virtuale. La persona digitale invia segnali che dicono al corpo virtuale di mettere la mano su una stufa virtuale. Di conseguenza, la persona digitale riceve segnali che corrispondono alla combustione della mano. La persona digitale elabora questi segnali e ne invia altri alla bocca per gridare “Ahi!” e alla mano per allontanarsi dalla stufa virtuale.
Questa persona digitale sente dolore? È davvero “cosciente”, “senziente” o “viva”? In relazione a ciò, dovremmo considerare la loro esperienza di bruciatura come un evento sfortunato, che vorremmo fosse stato evitato in modo da non doverlo subire?
Questa non è una domanda di fisica o di biologia, ma di filosofia, e una risposta completa esula dallo scopo di questo articolo.
Credo che simulazioni sufficientemente dettagliate e accurate degli esseri umani sarebbero coscienti, nella stessa misura e per le stesse ragioni per cui gli esseri umani sono coscienti.d
È difficile attribuire una probabilità a questa affermazione quando non è del tutto chiaro cosa significhi, ma credo che sia la migliore conclusione disponibile dato lo stato della filosofia della mente accademica. Mi aspetto che questa opinione sia abbastanza comune, anche se non universale, tra i filosofi della mentee.
Ne darò una spiegazione abbreviata, attraverso un paio di esperimenti mentali.
**Immaginiamo di poter sostituire in qualche modo un neurone del mio cervello con un “neurone digitale”: un dispositivo elettrico, fatto dello stesso tipo di cose di cui sono fatti i computer di oggi anziché i miei neuroni, che registri i segnali di altri neuroni (magari usando una telecamera per monitorare i vari segnali che inviano) e invii loro i segnali esattamente secondo lo stesso schema del vecchio neurone.
Se facessimo così, non mi comporterei in alcun modo diverso, né avrei modo di “accorgermi” della differenza.
Ora immaginiamo di fare la stessa cosa con tutti gli altri neuroni del mio cervello, uno per uno, in modo che alla fine il mio cervello contenga solo “neuroni digitali” collegati tra loro, che ricevono segnali dai miei occhi/orecchie/ecc. e inviano segnali alle mie braccia/piedi/ecc. Non mi comporterei comunque in modo diverso, né avrei modo di “accorgermene”.
Quando si scambiano tutti i neuroni, non mi accorgo che la vivacità dei miei pensieri si affievolisce. Se mi accorgessi che la vivacità dei miei pensieri si affievolisce, questo “accorgermene” mi influenzerebbe in modi che potrebbero cambiare il mio comportamento. Per esempio, potrei notare che la vivacità dei miei pensieri si affievolisce. Ma abbiamo già specificato che nulla dei segnali in entrata e in uscita del mio cervello cambia, il che significa che nulla del mio comportamento potrebbe cambiare.
Immaginiamo ora di poter rimuovere dalla mia testa l’insieme di “neuroni digitali” interconnessi e di immettere segnali simili direttamente (invece che attraverso gli occhi/le orecchie/ecc.). Si tratterebbe di una versione digitale di me stesso: una simulazione del mio cervello, in esecuzione su un computer. In nessun momento avrei notato un cambiamento: nessuna diminuzione della coscienza, nessuna attenuazione dei sentimenti, ecc.
Esperimento mentale 2. Immaginate di parlare con una copia digitale di me stesso, una simulazione estremamente dettagliata di me che reagisce a ogni situazione proprio come farei io.
Se chiedessi alla mia copia digitale se è cosciente, insisterebbe che lo è (proprio come farei io in risposta alla stessa domanda). Se gli spiegassi e dimostrassi la sua situazione (per esempio, che è “virtuale”) e gli chiedessi se pensa ancora di essere cosciente, continuerebbe a insistere che lo è (proprio come farei io, se mi venisse mostrato che sono simulato su un computer, cosa che le mie attuali osservazioni non possono escludere).
Dubito che esista un argomento che possa convincere la mia controparte digitale di non essere cosciente. Se un processo di ragionamento che funziona esattamente come il mio, con accesso a tutti gli stessi dati a cui ho accesso io, è convinto che “l’Holden digitale è cosciente”, quale base razionale potrei avere per pensare che sia sbagliato?
Punti generali:
Immagino che la coscienza, qualunque cosa sia, sia la causa di cose come “io dico di essere cosciente” e la fonte delle mie osservazioni sulla mia esperienza cosciente. Il fatto che il mio cervello sia fatto di neuroni (e non di chip di computer o altro) non ha alcun ruolo nella mia propensione a dire che sono cosciente o nelle osservazioni che faccio sulla mia esperienza cosciente: se il mio cervello fosse un computer invece di un insieme di neuroni, che invia gli stessi segnali, esprimerei tutte le stesse credenze e osservazioni sulla mia esperienza cosciente.
La causa delle mie affermazioni sulla coscienza e la fonte delle mie osservazioni sulla mia coscienza non è qualcosa che riguarda il materiale di cui è fatto il mio cervello, ma piuttosto qualcosa che riguarda gli schemi di elaborazione delle informazioni che il mio cervello esegue. Un computer che esegue gli stessi schemi di elaborazione delle informazioni avrebbe quindi la stessa ragione di ritenersi cosciente di me.
Infine, parlando con i fisici ho capito che molti di loro ritengono che ci sia un senso importante in cui “l’universo può essere compreso fondamentalmente solo come modelli di elaborazione delle informazioni” e che la distinzione tra, ad esempio, i neuroni e i processori dei computer sembra improbabile che abbia qualcosa di “profondo”f.
Per una trattazione più approfondita di questo argomento, vedi:
Zombies redacted di Eliezer Yudkowsky. Questo articolo è più informale e meno accademico e le sue argomentazioni sono più simili a quelle che ho esposto sopra.
Supponiamo che ti sbagli e che le persone digitali non possano essere coscienti. In che modo questo influenzerebbe le vostre opinioni su come potrebbero cambiare il mondo?
Supponiamo di poter creare dei duplicati digitali degli esseri umani di oggi, ma che non siano coscienti. In questo caso:
Potrebbero comunque essere enormemente produttivi rispetto agli esseri umani biologici. E studiarli potrebbe comunque portare a scoperte sulla natura e sul comportamento umano. Quindi le sezioni Produttività e Scienze sociali rimarrebbero sostanzialmente invariate.
Continuerebbero a credere di essere coscienti (dato che noi lo siamo e loro sarebbero simulazioni di noi). Potrebbero ancora cercare di espandersi nello spazio e stabilire comunità stabili/“bloccate” per preservare i valori a cui tengono.
A causa della loro produttività e del loro numero enorme, mi aspetto che la popolazione di persone digitali determini il futuro a lungo termine della galassia, anche per gli umani biologici.
La posta in gioco sarebbe complessivamente più bassa se l’enorme numero di persone digitali in tutta la galassia e le esperienze virtuali che hanno vissuto “non contassero”, ma rimarrebbe comunque molto alta, poiché il modo in cui le persone digitali organizzano la galassia determinerebbe la vita degli umani biologici.
Fattibilità
Le persone digitali sono possibili?
Certamente non sono possibili oggi. Non abbiamo idea di come creare un software che “risponda” ai dati video e audio (ad esempio, inviando gli stessi segnali per parlare, muoversi, ecc.) come farebbe un particolare essere umano.
Non possiamo semplicemente copiare e simulare i cervelli umani, perché sappiamo relativamente poco di ciò che fa il cervello umano. I neuroscienziati hanno una capacità molto limitata di fare osservazioni al riguardo.g (Possiamo fare un buon lavoro simulando alcuni degli ingressi fondamentali al cervello: le telecamere sembrano catturare le immagini più o meno come gli occhi umani e i microfoni sembrano catturare i suoni più o meno come le orecchie umane.h).
Le persone digitali sono una tecnologia ipotetica e un giorno potremmo scoprire che sono impossibili, ma, per quanto ne so, attualmente non c’è alcuna ragione per crederlo.
Personalmente mi sento di scommettere che alla fine saranno possibili, almeno attraverso il caricamento della mente (scansione e simulazione di cervelli umani)i. Penso che si tratti di (a) far progredire le neuroscienze fino al punto in cui possiamo osservare e caratterizzare a fondo i dettagli fondamentai di ciò che fanno i cervelli umani, una strada potenzialmente molto lunga, ma non infinita; (b) sviluppare un software che simuli quei dettagli fondamentali; (c) far girare la simulazione software su un computer; (d) fornire un corpo virtuale e un ambiente virtuale “sufficientemente buoni”, che potrebbero essere abbastanza semplici (già solo parlare, leggere e scrivere al computer sarebbe sufficiente). Immagino che (a) sia la parte più difficile e che (c) possa essere fatto anche con l’hardware dei computer di oggi.j
Non approfondirò l’argomento in questo pezzo, ma potrei farlo in futuro se dovesse esserci interesse.
Quando potrebbero essere possibili le persone digitali?
Non credo che ci sia un buon modo per prevedere quando i neuroscienziati capiranno il cervello abbastanza bene da iniziare il caricamento della mente. Al massimo possiamo dire che sembra che attualmente non ci siamo vicini.
Il motivo per cui penso che le persone digitali potrebbero arrivare nei prossimi decenni è un altro: penso che potremmo inventare qualcosa (principalmente, un’intelligenza artificiale avanzata) che acceleri drasticamente la ricerca scientifica. Se ciò accadesse, potremmo vedere emergere rapidamente ogni sorta di nuova tecnologia in grado di cambiare il mondo, comprese le persone digitali.
Penso anche che pensare alle persone digitali aiuti a formare intuizioni su quanto potrebbe essere produttiva e potente l’intelligenza artificiale avanzata (ne parlerò in un prossimo articolo).
Altre domande
Ho difficoltà a immaginare un mondo di persone digitali: come potrebbe essere introdotta la tecnologia, come interagirebbero con noi, ecc. Puoi delineare uno scenario dettagliato di come potrebbe essere la transizione dal mondo di oggi a un mondo pieno di persone digitali?
Farò un esempio di come potrebbero andare le cose. È un po’ ottimista, per evitare che diventi immediatamente una distopia, e propende per il lato “familiare”: non esploro tutte le potenziali conseguenze radicali delle persone digitali.
Nulla di tutto ciò dipende dall’accuratezza di questa storia; l’unico obiettivo è quello di rendere un po’ più facile immaginare questo mondo e pensare alle motivazioni delle persone che lo popolano.
Immaginiamo quindi che:
Un giorno sarà una tecnologia funzionante per il caricamento della mente. Per semplicità, supponiamo che fin dall’inizio abbia un prezzo modesto.k Ciò significa che chiunque voglia può farsi scansionare il cervello, creando una “copia digitale” di se stesso.
Alcune decine di migliaia di persone creano “copie digitali” di se stesse. Quindi ci sono ora decine di migliaia di persone digitali che vivono in un semplice ambiente virtuale, composto da semplici uffici, appartamenti e parchi.
Inizialmente, ogni persona digitale pensa proprio come una persona non digitale da cui è stata copiata, anche se con il passare del tempo le esperienze di vita e gli stili di pensiero divergono.
Ogni persona digitale può progettare il proprio “corpo virtuale” che la rappresenta nell’ambiente. (È un po’ come scegliere un avatar: i corpi devono rientrare in un range normale di altezza, peso, forza, ecc. ma sono abbastanza personalizzabili).
Il server del computer che gestisce tutte le persone digitali e l’ambiente virtuale in cui vivono è di proprietà privata. Tuttavia, grazie a una normativa previdente, le persone digitali stesse sono considerate persone con pieni diritti legali (non proprietà dei loro creatori o della società del server). Fanno le proprie scelte, nel rispetto della legge, e hanno alcune tutele iniziali di base, come ad esempio:
Per poter continuare a esistere, il proprietario del server su cui si trovano deve scegliere di gestirli. Tuttavia, ogni persona digitale all’inizio deve avere un contratto a lungo termine prepagato con la società di server che la gestisce, in modo da avere la certezza di esistere per molto tempo, ad esempio almeno 100 anni dalla data di nascita della sua copia biologica, se lo desidera.
Devono essere pienamente informati della loro situazione di persone digitali e ricevere altre informazioni su ciò che sta accadendo, su come contattare persone essenziali, ecc. (Inoltre, inizialmente solo le persone di 18 anni o più possono essere copiate digitalmente, anche se in seguito le persone digitali possono avere i propri “figli digitali” — vedi sotto).
Il loro ambiente virtuale iniziale deve soddisfare determinati criteri (ad esempio, nessuna violenza o sofferenza inflitta loro, cibo e acqua virtuali in abbondanza). Hanno un proprio conto in banca, che inizia con un po’ di soldi, e possono guadagnarne altri proprio come fanno le persone biologiche (ad esempio, lavorando per qualche azienda).
Il proprietario del server non può apportare modifiche significative al loro ambiente virtuale senza il loro consenso (a parte smettere di gestirli del tutto, cosa che può fare quando il contratto scade dopo un certo numero di decenni). Le persone digitali possono richiedere e offrire denaro per le modifiche al loro ambiente virtuale (ma anche le altre persone digitali interessate devono dare il loro consenso).
Il proprietario del server deve cessare di gestire qualsiasi persona digitale che chieda di non esistere più.
Le persone digitali stringono relazioni professionali e personali tra loro. Inoltre, stringono relazioni personali e professionali con gli esseri umani biologici, con i quali comunicano via e-mail, videochat, ecc.
Potrebbero lavorare per la prima azienda che offre copie digitali di esseri umani, facendo ricerca su come rendere le future persone digitali più economiche da gestire.
Potrebbero rimanere in contatto con la persona biologica da cui sono stati copiati, scambiandosi e-mail sulla propria vita privata.
Quasi certamente sarebbero interessate a far sì che nessun umano biologico interferisca con il loro server in modo indesiderato (ad esempio spegnendolo).
Alcune persone digitali si innamorano e si sposano. Una coppia è in grado di “avere figli” creando una nuova persona digitale la cui mente è un ibrido delle loro due menti. Inizialmente (nel rispetto delle protezioni contro gli abusi sui minori) possono decidere come il loro bambino appare nell’ambiente virtuale e persino apportare alcune modifiche, come ad esempio: “Quando il cervello del bambino invia un segnale per fare la cacca, al suo posto esce un arcobaleno”. Il bambino acquisisce diritti man mano che invecchia, come gli esseri umani biologici.
Le persone digitali sono anche autorizzate a copiare se stesse, purché siano in grado di soddisfare i requisiti per le nuove persone digitali (garanzia di poter vivere per un periodo ragionevolmente lungo, ecc.)
La popolazione di persone digitali cresce, grazie a persone che si copiano e fanno figli. Alla fine (forse rapidamente, come si dirà più avanti), ci sono molte più persone digitali che esseri umani biologici. Tuttavia, alcune persone digitali lavorano, assumono o hanno rapporti personali (via e-mail, videochat, ecc.) con gli esseri umani biologici.
Molte persone digitali lavorano per rendere possibile un’ulteriore crescita della popolazione, rendendo più economico il funzionamento delle persone digitali, costruendo più computer (nel mondo “reale”), trovando nuove fonti di materie prime ed energia per i computer (sempre nel mondo “reale”), ecc.
Molte altre persone digitali lavorano alla progettazione di ambienti virtuali sempre più creativi, alcuni basati su luoghi reali, altri più esotici (fisica alterata, ecc.) Alcuni ambienti virtuali sono progettati per essere vissuti, mentre altri sono progettati per essere visitati a scopo ricreativo. L’accesso viene venduto alle persone digitali che vogliono essere trasferite in questi ambienti.
Le persone digitali lavorano, si divertono, si incontrano, si riproducono, ecc. Da questo punto di vista, le loro vite hanno alcune cose in comune con le nostre.
Proprio come noi, hanno qualche incentivo a lavorare in cambio di denaro: devono pagare i costi del server se vogliono continuare a esistere per un periodo superiore a quello previsto dal loro contratto iniziale, o se vogliono copiare se stessi o avere figli (devono acquistare contratti di server lunghi per queste nuove persone digitali), o se vogliono partecipare a vari ambienti e attività ricreative.
A differenza di noi, possono copiare se stessi, correre a velocità diverse, cambiare il proprio corpo virtuale, entrare in ambienti virtuali esotici (ad esempio, a gravità zero), ecc.
I regolatori più lungimiranti hanno trovato il modo di far sì che grandi gruppi di persone digitali formino i propri Stati e civiltà virtuali, che possono stabilire e modificare i propri regolamenti.
Alternative distopiche Un mondo di persone digitali potrebbe diventare molto rapidamente distopico se ci fosse una regolamentazione peggiore o se non ci fosse affatto. Per esempio, immaginate se la regola fosse “Chiunque possieda il server può farci girare quello che vuole”. A quel punto le persone potrebbero creare copie digitali di se stesse su cui eseguire esperimenti, costringerle a svolgere lavori e persino venderle, in modo che chiunque possa creare un proprio server e abusare delle copie. Questo brevissimo racconto (consigliato, ma agghiacciante) dà un’idea di come potrebbero andare le cose.
E le persone biologiche cosa faranno? In questa sezione ho parlato di come il mondo sarebbe per le persone digitali, non per i normali esseri umani biologici. Mi concentro maggiormente su questo aspetto, perché penso che le persone digitali rappresenteranno rapidamente la maggior parte della popolazione e penso che dovremmo preoccuparci di loro tanto quanto degli umani biologici. Ma se vi state chiedendo come sarebbero le cose per gli esseri umani biologici, mi aspetto che:
Le persone digitali, grazie al loro numero e alla loro velocità di esecuzione, diventerebbero gli attori politici e militari dominanti nel mondo. Probabilmente sarebbero loro a determinare le condizioni di vita degli umani biologici.
Ci sarebbe un rapidissimo progresso scientifico e tecnologico (come discusso più avanti). Quindi, supponendo che le persone digitali e gli umani biologici rimangano in buoni rapporti, mi aspetto che gli umani biologici abbiano accesso a una tecnologia molto superiore a quella attuale. Come minimo, mi aspetto che questo significhi tecnologie mediche praticamente illimitate (tra cui, ad esempio, “curare” l’invecchiamento e avere una durata di vita indefinitamente lunga).
Le persone digitali sono diverse dal caricamento della mente?
Il caricamento della mente si riferisce alla simulazione di un cervello umano su un computer. (Di solito si sottintende che non si tratterebbe letteralmente di un cervello isolato, ma di una sorta di ambiente virtuale e di un corpo per la persona simulata, o forse di un robot da pilotare).
Il caricamento della mente sarebbe una forma di persona digitale e la maggior parte di questo articolo avrebbe potuto essere scritto sul caricamento della mente. I caricamenti della mente sono la versione più facile da immaginare delle persone digitali e mi concentro su di loro quando parlo del perché penso che le persone digitali saranno un giorno possibili e perché saranno coscienti come noi.
Ma potrei anche immaginare un futuro di “persone digitali” che non derivano dalla copia di cervelli umani, né sono così simili agli esseri umani di oggi. Penso che sia ragionevolmente probabile che, nel momento in cui le persone digitali saranno possibili (o poco dopo), saranno molto diverse dagli esseri umani di oggil.
La maggior parte di questo pezzo potrebbe applicarsi a qualsiasi entità digitale che (a) abbia valore morale e diritti umani, come le persone non digitali; (b) possa interagire con il proprio ambiente con abilità e ingegno pari (o superiori) a quelli delle persone di oggi. Con una comprensione sufficiente del funzionamento di (a) e (b), potrebbe essere possibile progettare persone digitali senza imitare i cervelli umani.
Farò spesso riferimento alle persone digitali nel corso di questa serie per indicare quanto radicalmente diverso potrebbe essere il futuro. Non voglio che si pensi che ciò implichi necessariamente la copia di cervelli umani veri e propri.
Una copia digitale di me stesso sarebbe me stesso?
Supponiamo che qualcuno abbia scansionato il mio cervello e ne abbia creato una simulazione su un computer: una copia digitale di me stesso. Questa conterebbe come “me”? Dovrei sperare che questa persona digitale abbia una buona vita, così come lo spero per me stesso?
Questa è un’altra domanda di filosofia. La mia risposta di base è: “Più o meno, ma non ha molta importanza”. Questo pezzo parla di come le persone radicalmente digitali potrebbero cambiare il mondo; questo non dipende dal fatto che ci identifichiamo con le nostre copie digitali.
Dipende (in qualche modo) dal fatto che le persone digitali debbano essere considerate “persone a tutti gli effetti”, nel senso che ci preoccupiamo per loro, vogliamo che evitino brutte esperienze, ecc. La sezione sulla coscienza è più pertinente a questa domanda.
In altre parti di questa serie, sosterrò che i progressi dell’intelligenza artificiale in questo secolo potrebbero portare rapidamente alle persone digitali o a una tecnologia altrettanto significativa. Il potenziale di trasformazione di qualcosa come le persone digitali, combinato con la rapidità con cui l’IA potrebbe portarci a questo, ci fa pensare che potremmo essere nel secolo più importante.
Pubblicazione originale: Holden Karnofsky (2021) Digital people FAQ, Cold Takes, 27 di luglio.
