Distopia
Una distopia è una civiltà priva della maggior parte del suo valore.
Nella classificazione di Toby Ord, le distopie irrecuperabili costituiscono uno dei tre tipi principali di catastrofe esistenziale.1
Ord suddivide ulteriormente le distopie irrecuperabili in tre tipi. Una distopia può essere desiderata da nessuno, alcuni o dalla maggior parte degli attori che vivono in essa. Ord le chiama rispettivamente distopie non desiderate, distopie imposte e distopie desiderate.2
Le distopie imposte sono il tipo di distopia più familiare. Nella narrativa, sono rappresentate in modo preminente da 1984 di George Orwell: “Se volete un’immagine del futuro, immaginate uno stivale che calpesta un volto umano, per sempre”3 Al di fuori della narrativa, la Corea del Nord offre probabilmente un esempio di distopia stabile locale.4 Le distopie imposte, romanzate e reali, assumono spesso la forma di un robusto totalitarismo, anche se non è detto che sia così.
Superficialmente, le distopie indesiderate possono sembrare improbabili. Se nessuno desidera un mondo del genere, perché dovremmo aspettarci che esista? La risposta è legata alla discrepanza che a volte può verificarsi tra preferenze individuali e collettive: ciò che è razionale per ogni persona può essere irrazionale per la collettività nel suo insieme. Può essere meglio per ogni individuo consumare le risorse senza alcun limite, indipendentemente da ciò che fanno gli altri individui; ma se tutti agiscono in questo modo, il risultato può essere l’esaurimento delle risorse, che è peggiore per tutti rispetto a un’alternativa in cui tutti moderano il proprio consumo. Scott Alexander offre un esempio efficace di una possibile distopia indesiderata.5 Immaginate una società governata da due semplici regole: primo, ogni persona deve passare otto ore al giorno a darsi forti scosse elettriche; secondo, se qualcuno non segue una delle due regole, tutti devono unirsi per ucciderlo. Il risultato è un mondo in cui tutti si sottopongono a scosse elettriche perché sanno che altrimenti verranno uccisi. Come riassume Alexander, “ogni singolo cittadino odia il sistema, ma data la mancanza di un buon meccanismo di coordinamento esso continua a esistere”.6
Così come ci si può chiedere perché esistano distopie indesiderate, ci si può chiedere perché le distopie desiderate siano distopiche. Un esempio pertinente è stato fornito da Nick Bostrom.7 L’esternalizzazione di massa a upload digitali o ad agenti IA potrebbe alla fine portare a un mondo completamente privo di coscienza fenomenica. Questo potrebbe accadere se si scoprisse che gli stati coscienti non possono essere istanziati in silico. Potrebbe anche succedere che, in questo nuovo ambiente radicalmente diverso, la coscienza venisse eliminata a causa di forti pressioni evolutive. Ad esempio, potrebbe essere più efficiente dal punto di vista informatico rappresentare esplicitamente la funzione di utilità di un agente piuttosto che affidarsi a un’architettura di ricompense edoniche. Secondo un’ampia gamma di teorie, il benessere richiede la coscienza (anche se potrebbe non ridursi alla coscienza), quindi un mondo del genere sarebbe privo di pazienti morali, a prescindere da quanto prospero possa apparire agli osservatori esterni o da quanto gli abitanti del mondo possano insistere sul fatto che sono coscienti o che la loro vita sia degna di essere vissuta. Bostrom descrive un’immaginaria “società tecnologicamente molto avanzata, contenente molti tipi di strutture complesse, alcune delle quali molto più intelligenti e intricate di qualsiasi cosa esiste oggi, in cui tuttavia ci sarebbe una completa assenza di qualsiasi tipo di essere il cui benessere abbia un significato morale. In un certo senso, si tratterebbe di una società disabitata. Tutti i tipi di creature che ci interessano anche solo lontanamente sarebbero scomparsi”8 Aspetti di questo possibile futuro distopico possono essere osservati oggi nella vita di alcuni animali non umani allevati per il consumo umano.9
Poiché il concetto di distopia è definito in termini di valori assenti dal mondo così caratterizzato, il fatto che qualcosa sia o non sia una distopia può variare a seconda della teoria morale presa in considerazione. Nell’utilitarismo classico, ad esempio, c’è un’enorme differenza di valore tra i mondi ottimizzati per le esperienze positive e un mondo apparentemente desiderabile in cui tutti godono della qualità di vita dei cittadini più privilegiati delle nazioni più prospere di oggi. Il radicamento permanente di quest’ultimo tipo di mondo potrebbe quindi, secondo questa teoria, essere considerato una distopia, nel senso che la maggior parte del valore raggiungibile non sarebbe stato realizzato. Al contrario, sebbene lo scenario distopico degli “outsourcer inconsci” di Bostrom sarebbe catastrofico per molte teorie morali plausibili, potrebbe non esserlo dal punto di vista dell’etica incentrata sulla sofferenza.
Michael Aird (2020) Collection of sources related to dystopias and “robust totalitarianism”, Effective Altruism Forum, 30 di marzo.
Molte risorse aggiuntive su questo argomento.
Toby Ord (2020) The Precipice: Existential Risk and the Future of Humanity, London: Bloomsbury Publishing, pp. 153-158.