Serie “il secolo più importante”: tabella di marcia - Altruismo Efficace
Serie “il secolo più importante”: tabella di marcia
Questo è uno schema di come ogni articolo della serie “il secolo più importante” si collega all’argomento generale. Credo che sia utile leggerlo prima di leggere la serie, per avere un’idea del ruolo di ogni articolo.
Penso che abbiamo buone ragioni per credere che il 21° secolo possa essere il secolo più importante di sempre per l’umanità. Penso che il modo più probabile in cui questo potrebbe accadere sia attraverso lo sviluppo di sistemi avanzati di intelligenza artificiale che porteranno a una crescita e a un progresso scientifico esplosivi, portandoci più rapidamente di quanto la maggior parte delle persone immagini a un futuro profondamente diverso da quello che conosciamo.
Più precisamente,a penso che ci sia una buona probabilità che:
Nel corso del secolo in cui ci troviamo, svilupperemo tecnologie che ci porteranno a una transizione verso uno stato in cui gli esseri umani, così come li conosciamo, non saranno più la forza principale alla base degli eventi mondiali. Questa è la nostra ultima possibilità di plasmare il modo in cui avverrà questa transizione.
Qualunque sia la forza principale (forse persone digitali, IA disallineate o qualcos’altro), creerà civiltà altamente stabili che popoleranno la nostra galassia per miliardi di anni a venire. La transizione che avverrà in questo secolo potrebbe plasmare tutto questo.
Penso che sia molto poco chiaro se questo sarebbe un bene o un male. Quello che conta è che potrebbe andare in molti modi diversi e noi abbiamo la possibilità di influenzarlo.
Credo che questa possibilità non riceva abbastanza attenzione, discussione o investimenti, in particolare da parte di coloro il cui obiettivo è migliorare il mondo. Scrivendo di questo argomento, vorrei contribuire a cambiare questa situazione, oppure ottenere più opportunità di essere criticato e di cambiare idea.
Questo post serve come riassunto/tabella di marcia per una serie di 11 post che argomentano questi punti (e i post stessi sono spesso riassunti di analisi più approfondite fatte da altri). Aggiungerò i link man mano che pubblicherò i post della serie.
La nostra epoca straordinariamente importante
Tutte le possibili visioni sul futuro dell’umanità sono fuori di testa sostiene che due semplici osservazioni — (a) sembra probabile che prima o poi saremo in grado di diffonderci in tutta la galassia e (b) sembra che nessun’altra forma di vita l’abbia ancora fatto — sono sufficienti a dimostrare che viviamo in un’epoca incredibilmente importante. Lo illustro con una linea del tempo della galassia.
Le persone digitali potrebbero essere ancora più importanti parla di come una tecnologia apparentemente realizzabile, in particolare, il caricamento della mente, potrebbe portare a una produttività senza precedenti, al controllo dell’ambiente e altro ancora. Il risultato potrebbe essere una civiltà stabile, estesa a tutta la galassia, profondamente aliena dal punto di vista attuale.
Il potenziale di accelerazione del nostro secolo
Tempi eccezionali esamina la crescita economica e il progresso scientifico nel corso della storia umana. Nelle ultime generazioni, la crescita è stata piuttosto costante. Ma allargando lo sguardo a un arco di tempo più lungo, sembra che la crescita abbia subito una forte accelerazione negli ultimi tempi; è vicina al suo massimo storico ed è più veloce di quanto possa continuare a essere per molto tempo ancora (non ci sono abbastanza atomi nella galassia per sostenere questo tasso di crescita anche solo per altri 10 000 anni).
I tempi in cui viviamo sono insoliti e instabili. Piuttosto che prevedere un’ulteriore crescita, dovremmo aspettarci una stagnazione (rallentamento della crescita e del progresso scientifico), un’esplosione (ulteriore accelerazione) o un collasso.
Previsioni sull’IA trasformativa, parte 1: Quale tipo di IA? introduce la possibilità di sistemi di intelligenza artificiale che automatizzino il progresso scientifico e tecnologico, il che potrebbe causare un aumento esponenziale della produttività. Sostengo che tali sistemi sarebbero “trasformativi”, nel senso che ci porterebbero a un futuro nuovo e qualitativamente sconosciuto.
Previsioni sull’IA trasformativa: dove risiede l’onere della prova? sostiene che non dovremmo pretendere un “onere della prova” troppo elevato per credere che l’IA trasformativa possa essere sviluppata in questo secolo, anche perché il nostro secolo è già speciale in molti modi evidenti anche senza un’analisi dettagliata delle IA.
Stiamo “tendendo verso” l’IA trasformativa? (Come possiamo saperlo?) discute la struttura di base delle previsioni sull’IA trasformativa, i problemi legati al tentativo di prevederla in base alle tendenze di “superlatività dell’IA” e lo stato delle opinioni dei ricercatori sull’IA trasformativa in termini di tempistiche di sviluppo.
Prevedo oltre il 10 % di possibilità che l’IA trasformativa venga sviluppata entro 15 anni (entro il 2036); circa il 50 % di possibilità che venga sviluppata entro 40 anni (entro il 2060); e circa i 2/3 di possibilità che venga sviluppata in questo secolo (entro il 2100).
Le affermazioni che sto facendo non contraddicono, né sono sostenute da un particolare consenso tra gli esperti (anche se la maggior parte dei rapporti più importanti che cito sono stati sottoposti a una revisione esterna da parte di esperti). Si tratta piuttosto di affermazioni su argomenti che semplicemente non hanno un “campo” di esperti dedicato a studiarli.
Alcuni potrebbero scegliere di ignorare qualsiasi affermazione che non sia attivamente sostenuta da un solido consenso di esperti, ma non credo che sia ciò che dovremmo fare in questo caso.
Implicazioni
Come affrontare al meglio il secolo più importante? discute punti di vista diversi e contrastanti su come far sì che il secolo più importante vada nel modo migliore possibile per l’umanità ed elenca “azioni molto utili” che sembra valga la pena intraprendere a prescindere.
Un appello a rimanere vigili fa da “chiamata all’azione” per la serie. Data tutta l’incertezza che abbiamo di fronte, non credo che le persone debbano affrettarsi a “fare qualcosa” e poi passare oltre. Dovrebbero invece intraprendere tutte le azioni molto positive che possono oggi e mettersi in una posizione migliore per intraprendere azioni importanti quando sarà il momento.
Alcuni post supplementari che approfondiscono i punti trattati nella serie:
‘Serie “Il secolo più importante”: la tabella di marcia’: Come l’argomento del “secolo più importante” viene influenzato se la nostra prospettiva della storia economica di lungo periodo cambia.
Punto debole del “secolo più importante”: la piena automazione (riconosce che avrei potuto fare di più per affrontare la questione di quanto completa debba essere l’automazione dell’IA per portare alle conseguenze che discuto, e aggiunge un po’ di più su questo punto)
Punto debole del “secolo più importante”: il lock-in (riconosce che avrei potuto fare di più per affrontare il tema di come l’IA possa portare al “blocco” del futuro a lungo termine, e aggiunge qualcosa in più su questo punto)
