Fonti essenziali per la serie “Il secolo più importante”
Ecco le fonti essenziali presentate in ogni post della serie “Il secolo più importante”, per i lettori interessati ad approfondire:
Eternity in six hours: Intergalactic spreading of intelligent life and sharpening the fermi paradox (Armstrong e Sandberg 2013). Discute di come si potrebbe creare una civiltà stabile in tutta la galassia con tecnologie non ancora esistenti, ma che sembrano realizzabili. Citato in Tutte le possibili visioni sul futuro dell’umanità sono fuori di testa.
Dissolving the Fermi Paradox (Sandberg, Drexler e Ord 2018). Sostiene che i passi più difficili e improbabili sulla strada dell’espansione su scala galattica sono probabilmente quelli che la nostra specie ha già compiuto. Citato in Tutte le possibili visioni sul futuro dell’umanità sono fuori di testa.
3 articoli sulla dinamica della crescita accelerata e su come l’IA avanzata potrebbe causarla, tutti citati in Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale:
The Age of Em (Hanson 2018). Tenta previsioni dettagliate su come potrebbe essere il mondo se il caricamento della mente fosse possibile. Citato in Il Duplicatore: La clonazione istantanea farebbe esplodere l’economia mondiale e Le persone digitali potrebbero essere ancora più importanti.
The singularity: A philosophical analysis (Chalmers 2010, sezione 9), Zombies redacted (Yudkowsky 2016), The Conscious Mind (Chalmers 1996). Queste fonti sostengono che copie digitali di esseri umani sufficientemente dettagliate sarebbero coscienti. Citato in Le persone digitali potrebbero essere ancora più importanti.
Limits to growth (Hanson 2009) e Galactic-scale energy (Murphy 2011). Analisi che sostengono che il livello di crescita attuale non può essere sostenuto per più di qualche migliaio di anni. Citato in Tempi eccezionali.
Superintelligenza (Bostrom 2017) e Draft report on existential risk from power-seeking AI (Carlsmith 2021). Discussioni sul problema dell’allineamento dell’IA, una parte essenziale di Previsioni sull’IA trasformativa, parte 1: Quale tipo di IA?
Report on semi-informative priors (Davidson 2021). Stima la probabilità di un’IA trasformativa entro varie date utilizzando un quadro matematico relativamente semplice. Citato in Previsioni sull’IA trasformativa: dove risiede l’onere della prova?
What should we learn from past AI forecasts? (Muehlhauser 2016). Esamina i passati “cicli di entusiasmo per l’IA”. Citato in Previsioni sull’IA trasformativa: dove risiede l’onere della prova?
When will AI exceed human performance? Evidence from AI experts (Grace, Salvatier, Dafoe, Zhang, Evans 2017). Indagine di 352 ricercatori sulle capacità future dell’IA. Citato in Stiamo “tendendo verso” l’IA trasformativa? (Come possiamo saperlo?)
Forecasting TAI with biological anchors (Cotra 2020). Stima la probabilità di un’IA trasformativa entro varie date, chiedendosi: “Sulla base degli schemi abituali dei costi di ‘addestramento dell’IA’, quanto costerebbe addestrare un modello di IA grande come un cervello umano per eseguire i compiti più difficili per gli esseri umani? E quando sarà abbastanza economico da potersi aspettare che qualcuno lo faccia?”. Citato in Stiamo “tendendo verso” l’IA trasformativa? (Come possiamo saperlo?) e Previsioni sull’IA trasformativa: il metodo delle “ancore biologiche” in breve.
How much computational power does it take to match the human brain? (Carlsmith 2020). Citato in Previsioni sull’IA trasformativa: il metodo delle “ancore biologiche” in breve. La metodologia copre l’aspetto di un “Modello di IA grande come un cervello umano” del rapporto degli Ancoraggi Biologici.
The future of human evolution (Bostrom 2004) sulle potenziali dinamiche negative di una “corsa al popolamento della galassia”. Citato in Come affrontare al meglio il secolo più importante?
The Precipice (Ord 2020) Capitolo 7. Discute della “lunga riflessione”, un ipotetico periodo in cui le persone potrebbero decidere collettivamente su obiettivi e auspici per il futuro, rappresentando idealmente il compromesso più equo disponibile tra le diverse prospettive. Citato in Come affrontare al meglio il secolo più importante?.