Era dei pericoli
L’era dei pericoli è un periodo ipotetico della storia umana durante il quale il rischio esistenziale è insolitamente alto. L’ipotesi dell’era dei pericoli è l’opinione secondo cui attualmente viviamo in un’epoca di pericoli.
Carl Shulman ha sostenuto che l’era dei pericoli durerà probabilmente solo pochi secoli a causa di vari sviluppi tecnologici che, secondo le aspettative comuni, finiranno per livellare il rischio esistenziale per secolo a livelli molto bassi. Come scrive Shulman,1
È abbastanza probabile che il tasso di estinzione/catastrofe esistenziale si avvicini a zero entro pochi secoli se la civiltà sopravvive, perché:
- La ricchezza e la tecnologia ci rendono completamente immuni ai disastri naturali. 2. Rilevazione, barriere e sterilizzazione diffuse e a basso costo rendono la civiltà immune alle minacce biologiche 3. La tecnologia avanzata rende le parti neutrali immuni agli effetti dell’inverno nucleare. 4. La produzione locale a basso costo consente di creare piccole catene di approvvigionamento che possono ricrescere in caso di interruzione, man mano che l’industria diventa più simile ai beni informazionali. 5. La colonizzazione dello spazio crea robustezza contro le perturbazioni locali. 6. L’IA allineata blocca le minacce dell’IA disallineata (e molte altre cose). 7. La tecnologia avanzata consente politiche stabili (ad esempio, gli stessi sistemi di polizia basati sull’IA fanno rispettare i trattati che vietano le guerre con armi di distruzione di massa per miliardi di anni) e il mondo probabilmente finirà in una situazione stabile (fluttuando finché non sarà stabile).
William MacAskill (s.d.) Stiamo vivendo un punto di svolta della storia,.