Rischi da attori malevoli
I rischi da attori malevoli sono rischi posti da individui con tratti di personalità narcisistici, psicopatici, sadici o socialmente dannosi.1
La malevolenza può essere definita come il fattore generale che spiega le correlazioni osservate tra i tratti negativi della personalità — il cosiddetto “nucleo oscuro” della personalità.2 Le persone che ottengono punteggi insolitamente alti in questo fattore generale potrebbero porre gravi rischi per il futuro a lungo termine dell’umanità, compresi rischi esistenziali e rischi di sofferenza astronomica. Queste persone sembrano avere più probabilità della media di raggiungere posizioni di potere nel governo e nell’industria. E a condizione che ottengano questa influenza, è anche molto più probabile che causino danni significativi.
I tipi di rischi da attori malevoli al potere possono essere molto diversi. Essi includono la diffusione di ideologie estremiste e pericolose, l’escalation di conflitti tra grandi potenze, la formazione di regimi totalitari e la messa in pericolo delle istituzioni pubbliche e del coordinamento globale. Tuttavia, poiché la malevolenza ha un’influenza negativa ampia, probabilmente è meglio considerarla come un fattore di rischio piuttosto che come un tipo di rischio distinto.
In un saggio pionieristico sull’argomento, David Althaus e Tobias Baumann hanno proposto diversi interventi per ridurre i rischi da attori malevoli.3 Le loro proposte includono l’avanzamento della scienza della malevolenza — attraverso l’allineamento dei costrutti con le forme moralmente rilevanti di malevolenza e lo sviluppo di misure di malevolenza a prova di manipolazione — e la promozione di riforme politiche per rendere meno probabile l’ascesa di attori malevoli. Inoltre, poiché i rischi da attori malevoli rappresentano probabilmente i rischi più gravi negli scenari in cui hanno accesso a tecnologie trasformative, gli autori propongono anche di modellare lo sviluppo di tali tecnologie per mitigare i danni posti da questi individui, ad esempio riducendo la presenza di tratti malevoli nell’IA e assicurando che i candidati all’emulazione completa del cervello ottengano un punteggio basso nelle misure di malevolenza.
80,000 Hours considera i rischi da attori malevoli una “potenziale area di massima priorità”: una questione che, se esaminata più a fondo, potrebbe classificarsi come una delle principali sfide globali.4
David Althaus & Tobias Baumann (2020) Reducing long-term risks from malevolent actors, Effective Altruism Forum, 29 di aprile.