Frode di Pascal
La frode di Pascal è un esperimento mentale che intende sollevare un problema per la teoria del valore atteso. A differenza della Scommessa di Pascal, la Frode di Pascal non coinvolge utilità o probabilità infinite, quindi il problema che solleva è separato da uno qualsiasi dei noti paradossi dell’infinito.
L’esperimento mentale e il suo nome sono apparsi per la prima volta in un post sul blog di Eliezer Yudkowsky.1 lo ha successivamente elaborato sotto forma di dialogo immaginario.
Nella formulazione originale di Yudkowsky, una persona viene avvicinata da un rapinatore che minaccia di uccidere un numero astronomico di persone se non accetta di dargli cinque dollari. Anche una minima probabilità assegnata all’ipotesi che il rapinatore mantenga la sua promessa sembra sufficiente a rendere la prospettiva di dare cinque dollari al rapinatore migliore dell’alternativa, in aspettativa. La minuscola probabilità che il rapinatore sia disposto e in grado di salvare un numero astronomico di persone è più che compensata dall’enorme valore della posta in gioco. (Se si ritiene che la probabilità sia troppo bassa, si può aumentare arbitrariamente il numero di vite che il rapinatore minaccia di uccidere). L’esperimento mentale solleva un problema per la teoria del valore atteso, perché sembra intuitivamente assurdo che si debba dare del denaro allo scippatore, eppure questo è ciò che la teoria apparentemente implica.
Sono state sviluppate diverse risposte. Una risposta comune è la correzione o il rifiuto della teoria del valore atteso. Una risposta ricorrente consiste nell’ignorare gli scenari la cui probabilità è inferiore a una certa soglia.
Questa risposta, tuttavia, presenta una serie di problemi. Un problema è che la soglia sembra arbitraria, indipendentemente da dove viene fissata. Un critico potrebbe sempre dire: “Perché si fissa la soglia a quel valore, piuttosto che, ad esempio, a un ordine di grandezza superiore o inferiore?”. Un problema più fondamentale è che sembra che il fatto che uno scenario cada al di sotto o al di sopra di una certa soglia dipenda da come viene suddiviso lo spazio delle possibilità. Ad esempio, un rischio esistenziale di 1 su 100 per secolo può essere ridefinito come un rischio esistenziale di 1 su 5,2 miliardi per minuto. Se la soglia è impostata su un valore compreso tra questi due numeri, il fatto che si debba o meno ignorare il rischio dipenderà semplicemente da come lo si descrive.
Un’altra possibile alternativa è quella di adottare una probabilità a priori che penalizzi le ipotesi in proporzione al numero di persone che queste implicano di poter influenzare. In altre parole, si potrebbe adottare una visione in cui c’è circa 1 probabilità su 10n che qualcuno abbia il potere di influenzare 10n persone. Data questa penalizzazione, il rapinatore non può più ricorrere all’espediente di aumentare il numero di persone che minaccia di uccidere per rendere l’offerta sufficientemente attraente. Con l’aumento del numero di persone, la probabilità che vengano uccise dallo scippatore diminuisce proporzionalmente, e il valore atteso delle proposte successive rimane lo stesso.
Un’ultima possibilità è quella di “stringere i denti” e accettare che, se la proposta del rapinatore è migliore in aspettativa, si debbano dare i cinque dollari. Questo approccio diventa più plausibile se combinato con un’argomentazione etiologica dell’intuizione che pagare il rapinatore sarebbe assurdo. Per esempio, si può sostenere che il cervello umano non è in grado di rappresentare adeguatamente numeri molto grandi o molto piccoli, e che quindi le intuizioni innescate da esperimenti mentali che fanno uso di tali quantità non sono affidabili e non dovrebbero avere molto peso come evidenze.
Indipendentemente da come si risponde alla Frode di Pascal, è importante notare che essa non sembra influenzare il valore assegnato alle cause o agli interventi “ad alta posta” prioritizzati all’interno della comunità dell’altruismo efficace, come la ricerca sulla sicurezza dell’IA o altre forme di mitigazione del rischio esistenziale. Il motivo a sostegno del bisogno di lavorare su queste cause non è fondamentalmente diverso da argomenti più banali che non rientrano plausibilmente nell’ambito della Frode di Pascal, come il votare alle elezioni.3
Vale anche la pena di sottolineare che la Frode di Pascal coinvolge sia una posta in gioco molto alta che una probabilità molto piccola, ma il termine viene talvolta erroneamente applicato a casi che coinvolgono una posta in gioco alta, indipendentemente dalla loro probabilità.4
Nick Bostrom (2009) Pascal’s mugging, Analysis, vol. 69, pp. 443–445.
Eliezer Yudkowsky (2007) Pascal’s mugging: tiny probabilities of vast utilities, LessWrong, 19 di ottobre.