Colpo di avvertimento
Per colpo di avvertimento si intende una catastrofe globale che riduce indirettamente il rischio esistenziale aumentando la preoccupazione per catastrofi future.
L’espressione segnale di avvertimento è talvolta utilizzata per descrivere qualsiasi evento che aumenti la preoccupazione per una particolare categoria di rischio esistenziale, indipendentemente dal fatto che l’evento stesso costituisca una catastrofe globale. Ad esempio, tra gli eventi che possono diventare un segnale di avvertimento nel campo dell’IA vi sono non solo un fallimento catastrofico da parte di un sistema di intelligenza artificiale, ma anche campagne di sensibilizzazione del pubblico o la pubblicazione di un libro incredibilmente convincente sulla sicurezza dell’IA1.
Una nozione correlata è quella di allarme antincendio, un segnale di avvertimento che crea una conoscenza comune del fatto che una certa tecnologia (di solito l’intelligenza artificiale avanzata) pone effettivamente un rischio esistenziale.2
Si noti, tuttavia, che sia “colpo di avvertimento” che “allarme antincendio” sono talvolta usati come sinonimi di “segnale di avvertimento”.3
Nick Beckstead (2015) The long-term significance of reducing global catastrophic risks, Open Philanthropy, 13 di agosto.
Joseph Carlsmith (2021) Is power-seeking AI an existential risk?, Open Philanthropy, aprile, sec. 6.2.