Serie “il secolo più importante”: tabella di marcia
Questo è uno schema di come ogni articolo della serie “il secolo più importante” si collega all’argomento generale. Credo che sia utile leggerlo prima di leggere la serie, per avere un’idea del ruolo di ogni articolo.

Penso che abbiamo buone ragioni per credere che il 21° secolo possa essere il secolo più importante di sempre per l’umanità. Penso che il modo più probabile in cui questo potrebbe accadere sia attraverso lo sviluppo di sistemi avanzati di intelligenza artificiale che porteranno a una crescita e a un progresso scientifico esplosivi, portandoci più rapidamente di quanto la maggior parte delle persone immagini a un futuro profondamente diverso da quello che conosciamo.
Più precisamente,a penso che ci sia una buona probabilità che:
Penso che sia molto poco chiaro se questo sarebbe un bene o un male. Quello che conta è che potrebbe andare in molti modi diversi e noi abbiamo la possibilità di influenzarlo.
Credo che questa possibilità non riceva abbastanza attenzione, discussione o investimenti, in particolare da parte di coloro il cui obiettivo è migliorare il mondo. Scrivendo di questo argomento, vorrei contribuire a cambiare questa situazione, oppure ottenere più opportunità di essere criticato e di cambiare idea.
Questo post serve come riassunto/tabella di marcia per una serie di 11 post che argomentano questi punti (e i post stessi sono spesso riassunti di analisi più approfondite fatte da altri). Aggiungerò i link man mano che pubblicherò i post della serie.

Tutte le possibili visioni sul futuro dell’umanità sono fuori di testa sostiene che due semplici osservazioni — (a) sembra probabile che prima o poi saremo in grado di diffonderci in tutta la galassia e (b) sembra che nessun’altra forma di vita l’abbia ancora fatto — sono sufficienti a dimostrare che viviamo in un’epoca incredibilmente importante. Lo illustro con una linea del tempo della galassia.
Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale spiega il meccanismo di base per cui “prima o poi” potrebbe diventare “presto”: la capacità di “copiare le menti umane” potrebbe portare a un’esplosione della produttività. Questo è il contesto per i prossimi articoli.
Le persone digitali potrebbero essere ancora più importanti parla di come una tecnologia apparentemente realizzabile, in particolare, il caricamento della mente, potrebbe portare a una produttività senza precedenti, al controllo dell’ambiente e altro ancora. Il risultato potrebbe essere una civiltà stabile, estesa a tutta la galassia, profondamente aliena dal punto di vista attuale.

Tempi eccezionali esamina la crescita economica e il progresso scientifico nel corso della storia umana. Nelle ultime generazioni, la crescita è stata piuttosto costante. Ma allargando lo sguardo a un arco di tempo più lungo, sembra che la crescita abbia subito una forte accelerazione negli ultimi tempi; è vicina al suo massimo storico ed è più veloce di quanto possa continuare a essere per molto tempo ancora (non ci sono abbastanza atomi nella galassia per sostenere questo tasso di crescita anche solo per altri 10 000 anni).
I tempi in cui viviamo sono insoliti e instabili. Piuttosto che prevedere un’ulteriore crescita, dovremmo aspettarci una stagnazione (rallentamento della crescita e del progresso scientifico), un’esplosione (ulteriore accelerazione) o un collasso.
Previsioni sull’IA trasformativa, parte 1: Quale tipo di IA? introduce la possibilità di sistemi di intelligenza artificiale che automatizzino il progresso scientifico e tecnologico, il che potrebbe causare un aumento esponenziale della produttività. Sostengo che tali sistemi sarebbero “trasformativi”, nel senso che ci porterebbero a un futuro nuovo e qualitativamente sconosciuto.
Perché l’allineamento dell’IA potrebbe essere difficile con il moderno deep learning approfondisce i motivi per cui i sistemi di intelligenza artificiale avanzata potrebbero essere “disallineati”, con conseguenze potenzialmente catastrofiche.

Previsioni sull’IA trasformativa: dove risiede l’onere della prova? sostiene che non dovremmo pretendere un “onere della prova” troppo elevato per credere che l’IA trasformativa possa essere sviluppata in questo secolo, anche perché il nostro secolo è già speciale in molti modi evidenti anche senza un’analisi dettagliata delle IA.
Stiamo “tendendo verso” l’IA trasformativa? (Come possiamo saperlo?) discute la struttura di base delle previsioni sull’IA trasformativa, i problemi legati al tentativo di prevederla in base alle tendenze di “superlatività dell’IA” e lo stato delle opinioni dei ricercatori sull’IA trasformativa in termini di tempistiche di sviluppo.
Previsioni sull’IA trasformativa: il metodo delle “ancore biologiche” in breve riassume lo schema delle ancore biologiche per le previsioni sull’IA. Questo schema è il fattore principale delle mie previsioni specifiche.
Prevedo oltre il 10 % di possibilità che l’IA trasformativa venga sviluppata entro 15 anni (entro il 2036); circa il 50 % di possibilità che venga sviluppata entro 40 anni (entro il 2060); e circa i 2/3 di possibilità che venga sviluppata in questo secolo (entro il 2100).
Le tempistiche dell’IA: A che punto sono le argomentazioni e gli “esperti” riassume brevemente lo stato degli argomenti e affronta la domanda: “Qual è l’opinione degli esperti su tutto questo?”.

Come affrontare al meglio il secolo più importante? discute punti di vista diversi e contrastanti su come far sì che il secolo più importante vada nel modo migliore possibile per l’umanità ed elenca “azioni molto utili” che sembra valga la pena intraprendere a prescindere.
Un appello a rimanere vigili fa da “chiamata all’azione” per la serie. Data tutta l’incertezza che abbiamo di fronte, non credo che le persone debbano affrettarsi a “fare qualcosa” e poi passare oltre. Dovrebbero invece intraprendere tutte le azioni molto positive che possono oggi e mettersi in una posizione migliore per intraprendere azioni importanti quando sarà il momento.
Alcuni post supplementari che approfondiscono i punti trattati nella serie:
Ho elencato alcune delle fonti principali di questa serie in un unico posto qui, per coloro che sono interessati ad andare più a fondo.
Primo pezzo della serie: Tutte le possibili visioni sul futuro dell’umanità sono fuori di testa