Rischio di permenenza
Un rischio di permanenza è un rischio associato al fatto di trovarsi in un particolare stato, mentre un rischio di transizione è un rischio derivante dal passaggio a un nuovo stato. Sembra che Nick Bostrom abbia dato origine alla distinzione nel suo libro Superintelligenza, anche se alcune menzioni sono precedenti alla pubblicazione del libro.1
Il rischio di permanenza cumulativo in uno stato cresce in funzione del tempo trascorso in quello stato. I rischi esistenziali naturali sono tipicamente rischi di permanenza. Ad esempio, in assenza di sforzi di deflessione, il rischio che un asteroide di una certa dimensione entri in collisione con la Terra entro il 2030 è più alto del rischio che lo faccia entro il 2029. Più a lungo l’umanità si espone a un rischio di permanenza, più alta è la probabilità di soccombere alla catastrofe associata. Per questo motivo, ci sono ragioni a favore della riduzione di rischi di permanenza il prima possibile.
La questione è diversa per i rischi di transizione. In questo caso, la minaccia sorge solo quando inizia la transizione verso il nuovo stato e il rischio complessivo sostenuto durante questa transizione generalmente non dipende della sua durata totale. Pertanto, con i rischi di transizione non esiste una presunzione a favore o contro il rinvio o il prolungamento della transizione; ciò che è appropriato varia a seconda delle caratteristiche specifiche di ciascun rischio. Alcuni rischi esistenziali antropici sono plausibilmente considerati rischi di transizione, e il rischio dell’IA ne è forse l’esempio più chiaro.
Poiché i rischi di stato sono correlati con i rischi esistenziali naturali e i rischi di transizione con i rischi esistenziali antropici, la maggior presenza di questi ultimi nel rischio esistenziale totale suggerisce che la maggior parte di questo rischio è rappresentato dalla transizione verso nuovi stati, piuttosto che dalla permanenza in un determinato stato.2 Questa conclusione ha importanti implicazioni per la gestione strategica del rischio esistenziale.
Ulteriori letture
Nick Bostrom (2018) Superintelligenza: tendenze, pericoli, strategie, Torino: Bollati Boringhieri, chap. 14.
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, London: Bloomsbury Publishing, chap. 7.
Anders Sandberg (2017) Survivorship curves and existential risk, Andart II, 8 di febbraio.
Voci correlate
rischio esistenziale antropico • rischio esistenziale • rischio esistenziale naturale • rischio esistenziale totale