La costo-efficacia della beneficenza in un mondo incerto
“Insegnare a vivere senza certezze, e tuttavia senza essere paralizzati dall’esitazione, è forse la cosa principale che la filosofia, nella nostra epoca, può ancora fare per coloro che la studiano.” -A History of Western Philosophy, p. 11.
“Se qualcosa sembra troppo bello per essere vero, probabilmente lo è”. -Proverbio
Nell’autunno del 2005, stavo parlando con un amico dell’utilitarismo:
Amico: “Capisco il tuo punto di vista, ma l’utilitarismo non funziona”.
Me del 2005: “Perché no?”
Amico: “Non hai modo di valutare tutti gli effetti delle tue azioni. Ogni cosa che fai ha un milione di conseguenze”.
Me del 2005: “Facciamo del nostro meglio per stimarle”.
Amico: “Le barre di errore sono infinite in entrambe le direzioni”.
Me del 2005: “Hmm, sì, le barre di errore sono infinite, ma possiamo assumere che le incognite si annullino. Per esempio, consideriamo la costruzione di cinture di sicurezza più sicure. Nel breve termine, sappiamo che prevengono gli infortuni, il che è positivo. Potrebbero esserci effetti di ricaduta a lungo termine, ma questi potrebbero essere ugualmente buoni o cattivi, quindi si annullano nei calcoli. Quindi, il valore atteso è ancora positivo”.
Se dovessi continuare la conversazione ora, parlando con il me del passato, ecco come potrebbe andare:
Me del 2013: “Ok, consideriamo l’esempio delle cinture di sicurezza. Un effetto è quello di prevenire infortuni e morti tragiche, il che è positivo, ma un altro è quello di aumentare la popolazione umana, il che significa un maggiore consumo di carne. Dal momento che le persone mangiano nel corso della loro vita, questo a conti fatti sembra decisamente un male.”
Me del 2005: “Hmm, ok. Allora forse le cinture di sicurezza sono tutto sommato negative… I due fattori che hai elencato sono piuttosto concreti, mentre tutto il resto è confuso, quindi possiamo supporre che tutto il resto si annulli. Quindi il bilancio complessivo è negativo”.
Me del 2013: “Beh, potrebbero esserci altri effetti collaterali positivi delle cinture di sicurezza. Una maggiore sicurezza delle auto significa più persone che guidano, il che significa una maggiore propensione a costruire parcheggi. E i parcheggi sono un modo molto chiaro per prevenire grandi quantità di sofferenza da parte della fauna selvatica che altrimenti avrebbe vissuto vite brevi e sopportato morti dolorose sul terreno se non fosse stato asfaltato. Forse ci sono più insetti a cui i parcheggi risparmiano una morte dolorosa che polli e pesci uccisi dagli automobilisti che rimangono in vita”.
Me del 2005: “Ah, buona osservazione. I parcheggi sono abbastanza benefici, quindi, a conti fatti, potrebbe essere che le cinture di sicurezza siano tutto sommato positive.”
Me del 2013: “D’altra parte, più auto in circolazione significa più emissioni di gas serra, il che significa più cambiamento climatico, il che significa più instabilità politica globale, il che potrebbe peggiorare le prospettive di compromesso in un futuro lontano. La posta in gioco potrebbe travolgere tutto il resto”.
Me del 2005: “Oh, sì, hai ragione. Quindi le cinture di sicurezza nel complesso potrebbero decisamente essere un male”.
Me del 2013: “D’altra parte, un minor numero di morti premature può consentire alle persone di sentirsi meno minacciate e più lungimiranti nelle loro azioni…”
[…e così via]
Nick Bostrom offre altri esempi di questo tipo nel suo intervento del 2014, ‘Considerazioni cruciali e filantropia saggia’, di Nick Bostrom.
L’idea di concentrarsi sugli effetti che si possono vedere e ignorare quelli che non si possono vedere, sperando che si annullino, è allettante. È un modo per avere la sensazione di “fare davvero la differenza” compiendo una determinata azione, invece di essere paralizzati dall’incertezza, che a volte può essere deprimente.
Alcuni membri del movimento dell’altruismo efficace adottano questo tipo di approccio. In sostanza, “qualsiasi causa incerta, lontana e ipotetica non è ‘rigorosa’, quindi dovremmo ignorarla. Dovremmo invece concentrarci su interventi chiaramente dimostrati con prove scientifiche concrete alle spalle, come la prevenzione della malaria o la sensibilizzazione sul veganesimo, perché almeno in questo caso sappiamo che stiamo facendo qualcosa di buono invece di fluttuare nello spazio”.
Credo che questa prospettiva abbia un certo valore, soprattutto nella misura in cui scavare in profondità nei dettagli scientifici può insegnare lezioni importanti sul mondo che sono trasferibili altrove. Tuttavia, il punto in cui crolla come posizione filosofica è quando deve rispondere a questa domanda: Come si fa a sapere che la prevenzione della malaria o la sensibilizzazione sull’alimentazione vegana sono buone, a conti fatti? Come si può conoscere il segno dell’attività (e ancor meno l’efficacia) senza considerare le ipotetiche conseguenze sul lungo periodo? Si potrebbe provare a dare per scontato che tutto ciò che non si vede “si annulla”, ma come abbiamo visto nel dialogo introduttivo, questo approccio può produrre conclusioni arbitrarie e contrastanti a seconda del punto in cui il confine dei “fatti noti” incontra il confine di “tutto il resto che ipotizziamo”. In definitiva, non abbiamo altra scelta che guardare all’insieme e affrontarlo al meglio.
Un altro modo per scegliere una causa su cui lavorare è cercare azioni che abbiano effetti ampiamente positivi in un’ampia gamma di scenari. Ad esempio, in generale:
Più cooperazione, democrazia e istituzioni efficaci per il compromesso a somma positiva sono cosa buona.
Una maggiore riflessione e un maggiore discorso filosofico sono cosa buona.
Le attività di meta-livello a sostegno di quanto sopra (come il movimento per l’altruismo efficace, la consulenza alle persone sulla scelta di carriera per fare la differenza, e così via) sono probabilmente buone.
Si noti che non ho incluso in questo elenco la tecnologia, la crescita economica e altre tendenze generalmente considerate positive, perché sia gli utilitaristi di orientamento negativo sia quelli di orientamento positivo hanno dubbi sul fatto che la tecnologia più veloce sia un bene o un male. Naturalmente, particolari tipi di tecnologie, come quelle che fanno progredire la saggezza più velocemente della potenza grezza, sono più sicure e spesso chiaramente benefiche.
Concentrarsi su progetti molto solidi spesso equivale a rimandare le questioni spinose alle generazioni future, che saranno meglio attrezzate per risolverle. In generale, non abbiamo altra scelta. Ci sono enigmi noti e scoperte future incognite nella fisica, nelle neuroscienze, nell’antropica, nell’infinito, nell’epistemologia generale, nei valori umani (e non umani) e in molte altre aree della vita che probabilmente trasformeranno radicalmente il nostro punto di vista sull’etica e su come dovremmo agire nel mondo. Compiere azioni a livello concreto basandosi solo su ciò che sappiamo ora è un po’ come se Socrate cercasse di capire se il bosone di Higgs esiste. Socrate non sarebbe stato in grado di risolvere direttamente la questione, ma una cosa che avrebbe potuto fare sarebbe stata quella di incoraggiare una maggiore riflessione su argomenti intellettuali in generale, con un eventuale ritorno in futuro.
Gaverick su Felicifia ha proposto di “diventare più intelligenti” prima di cercare di affrontare problemi a livello concreto. La cautela che vorrei aggiungere è che non abbiamo bisogno solo di conoscenza in sé, ma in particolare di una conoscenza eticamente riflessiva che possa decidere lentamente, attentamente e con circospezione come procedere. Non vogliamo una rapida esplosione di conoscenza in cui una parte si impadronisca della maggior parte delle cose che interessano alla maggior parte degli organismi in modo vincente. Pertanto, anche se l’intelligenza artificiale generale (IAG) sarà necessaria per risolvere queste questioni che sono al di là della comprensione umana, dobbiamo sviluppare l’IAG con saggezza, e promuovere migliori condizioni sociali all’interno delle quali lo sviluppo dell’IAG possa procedere con maggiore prudenza può avere senso nel breve termine.
Un aspetto della preparazione del terreno per le generazioni future a fare cose buone è assicurarsi che i nostri valori siano trasferiti, almeno a grandi linee. Il pericolo più grande della strategia “affidata al futuro” non è che le persone del futuro non saranno intelligenti (la pressione della selezione lo rende probabile), ma che possano non interessarsi a ciò che interessa a noi. Se da un lato non vogliamo bloccare il futuro su una visione morale che sembrerebbe sciocca con una maggiore comprensione dell’universo, dall’altro non vogliamo che i valori del futuro fluttuino in modo arbitrario. Lo spazio dei valori possibili è enorme e lo spazio dei valori che potrebbero interessarci anche dopo un’ulteriore riflessione è un minuscolo sottoinsieme del totale. Ecco perché il nostro slogan non dovrebbe essere solo “più intelligenza”, ma piuttosto qualcosa come “più saggezza”.
(Dovrei menzionare di sfuggita che probabilmente sarebbe meglio, da una prospettiva incentrata sulla sofferenza, se gli esseri umani non sviluppassero l’IAG a causa degli estremi rischi di sofferenza futura che ciò comporta. Tuttavia, dato che l’umanità svilupperà l’IAG, che mi piaccia o no, le mie migliori prospettive di fare la differenza sembrano provenire dalla spinta verso direzioni più umane e a somma positiva. Riconosco anche che altre persone tengono molto ai frutti che l’IAG potrebbe offrire, e do anche a questo un certo peso morale).
Sembra che il modo principale in cui le nostre azioni fanno la differenza sia il modo in cui preparano il terreno per i nostri successori in modo che possano pensare più attentamente alle grandi questioni dell’altruismo e a intraprendere buone azioni basate su tale pensiero. Tuttavia, questo non significa che l’unico modo per influenzare il futuro lontano sia quello di lavorare direttamente su attività di meta-livello, come la costruzione di movimenti, la consulenza sulla carriera o un’IAG amichevole. Piuttosto, tutte le cause su cui potremmo lavorare hanno effetti indiretti a lungo termine in altre aree. Per esempio, studiare come ridurre la sofferenza degli animali selvatici a breve termine può incoraggiare le persone a riconoscere l’importanza del problema in modo più ampio, il che potrebbe anche indurle a pensare con maggiore cautela prima di diffondere la fauna selvatica su altri pianeti o nelle simulazioni. Lo studio delle considerazioni cruciali a livello concreto in filosofia può motivare un maggior numero di persone a seguire l’esempio, forse in modo più efficace che non predicando semplicemente l’importanza generale della riflessione filosofica senza dare l’esempio. In generale, fare piccoli passi concreti accanto a una visione più grande può essere potenzialmente più stimolante che parlare solo della visione più grande, anche se il modo esatto di trovare un equilibrio tra questi due aspetti è oggetto di dibattito.
Per fare un ultimo esempio, immaginiamo un altruista efficace nell’anno 1800 che cerca di ottimizzare il suo impatto positivo. Non conosceva la maggior parte delle moderne scienze economiche, politiche, la teoria dei giochi, la fisica, la cosmologia, la biologia, le scienze cognitive, la psicologia, l’informatica, la filosofia, la teoria delle probabilità, la teoria del calcolo e molte altre materie che sarebbe stato fondamentale prendere in considerazione. Se avesse cercato di scommettere sulla questione più significativa a livello concreto che sarebbe stata rilevante secoli dopo, avrebbe quasi certamente sbagliato. Dubito che oggi saremmo molto più bravi nel cercare di trovare un’area di interesse specifica e concreta a più di qualche decennio di distanza. (Naturalmente, se riuscissimo a trovare tale area con una discreta precisione, potremmo ottenere un effetto leva elevato, come sottolinea Nick Beckstead nella presentazione discussa alla fine di questo saggio).
Ciò che questo altruista efficace del 1800 avrebbe potuto immaginare correttamente sarebbe stata l’importanza della pace nel mondo, della riflessione filosofica, delle istituzioni sociali a somma positiva e della saggezza. Promuovere questi aspetti nel 1800 poteva essere quasi la cosa migliore che questa persona potesse fare, e questo suggerisce che possono rimanere tra le migliori opzioni per noi oggi. Dovremmo ovviamente essere alla ricerca di opzioni più specifiche e ad alto effetto leva, ma dovremmo anche rimanere umili riguardo alla portata delle nostre capacità rispetto al vasto spazio delle incognite ignote, per quanto riguarda gli errori nelle nostre attuali convinzioni e i nuovi domini di conoscenza che non sapevamo nemmeno esistessero.
Nick Beckstead discute un’analogia simile nella sezione 6.4.3 di On the Overwhelming Importance of Shaping the Far Future, facendo l’esempio di una persona nell’anno 1500 che voleva aiutare l’umanità a costruire telefoni secoli dopo.
A volte i sostenitori di una causa si fissano su una particolare metrica o su un particolare modo di vedere la situazione, ad esempio una cifra $/QALY applicata agli interventi nei paesi in via di sviluppo o per il benessere animale. Questo numero seducente sembra darci finalmente una risposta su quali cause siano migliori di altre. Il risultato è che, anche dopo aver tenuto conto della diversa qualità delle prove tra le organizzazioni di beneficenza e della maledizione dell’ottimizzatore, le diverse organizzazioni di beneficenza possono variare di molte volte, persino di ordini di grandezza, lungo questa metrica.
La quantificazione in questo modo è certamente utile e fornisce un’importante prospettiva da cui guardare la situazione, ma non dovremmo scambiarla per la fine della storia. Il mondo è complesso e ci sono molti punti di vista diversi da cui osservare le attività di un’organizzazione di beneficenza. Da prospettive diverse, organizzazioni di beneficenza diverse possono uscirne vincenti.
Inoltre, gli effetti collaterali a lungo termine possono fare una grande differenza anche quando si ottimizza una singola metrica. Un semplice esempio: Supponiamo che il Papa stia decidendo se incoraggiare un allentamento della proibizione della Chiesa cattolica sul controllo delle nascite. Questo aiuterebbe a prevenire la diffusione dell’HIV in Africa e, in generale, sembrerebbe un vantaggio per la salute pubblica, cioè un maggior numero di QALY. Ma aspettate, il controllo delle nascite significherebbe meno gravidanze, il che significa meno persone nate, il che presumibilmente significa meno QALY anche considerando gli effetti della prevenzione dell’HIV. Quindi, secondo la metrica dei QALY, permettere il controllo delle nascite sarebbe negativo. Ma consideriamo anche l’impatto sugli animali da allevamento: una popolazione umana più ridotta, soprattutto da parte dei cattolici del mondo sviluppato, significa meno consumo di carne e meno QALY negativi negli allevamenti intensivi, quindi l’impatto complessivo potrebbe essere ancora una volta positivo per i QALY. Ma aspettate: e gli animali selvatici? Gli esseri umani si appropriano di enormi quantità di terra e biomassa che altrimenti sosterrebbero un gran numero di piccoli animali selvatici sofferenti, quindi una popolazione umana più numerosa può significare meno sofferenza degli animali selvatici e quindi più QALY, e probabilmente è questo l’effetto dominante. Quindi torniamo a opporci al controllo delle nascite. D’altra parte, si consideri che un migliore accesso al controllo delle nascite potrebbe conferire potere alle donne, migliorare la stabilità sociale e, in generale, portare a un futuro più pacifico e cooperativo, che potrebbe migliorare la qualità della vita di persone future ogni secolo per miliardi di anni. Quindi, ancora una volta, il controllo delle nascite appare positivo. E via dicendo…
Come abbiamo visto nel dialogo introduttivo, non possiamo fermarci a un particolare punto di interruzione dell’analisi. Gli effetti indiretti a lungo termine delle azioni non sono del tutto imprevedibili e possono fare una grande differenza.
Quando smettiamo di fissarci su particolari effetti collaterali di un intervento e cerchiamo invece di vedere l’intero quadro d’insieme, ci rendiamo conto che l’ambito delle organizzazioni di beneficenza è meno drasticamente squilibrato di quanto possa sembrare. Tutto influisce su tutto il resto, e questi effetti collaterali hanno il potere di smorzare le pretese di urgenza di cause apparentemente astronomicamente importanti, mentre potenzialmente aumentano quelle di cause che ingenuamente non sembrano così importanti. Ad esempio, se un’organizzazione di beneficenza incoraggia la cooperazione, la riflessione filosofica e il meta-pensiero su come ridurre al meglio la sofferenza in futuro (anche se solo per caso) ha preziosi effetti indiretti a lungo termine, ed è improbabile che questi possano essere battuti di molti ordini di grandezza da qualcos’altro.
Nel 2008 ho parlato con alcune persone del Singularity Institute for Artificial Intelligence (SIAI, ora chiamato MIRI) e ho chiesto a quali progetti di estrema importanza stessero lavorando rispetto ad altri gruppi. Quello che ho sentito non mi ha colpito particolarmente: Si trattava fondamentalmente di una maggiore esplorazione in matematica, filosofia, scienze cognitive e ambiti simili. Non ho trovato nulla che sembrasse volte migliore (o anche solo 10 volte migliore) rispetto a ciò che altri filosofi intelligenti orientati alla scienza stavano esplorando in ambito accademico. All’epoca la mia conclusione fu: “Beh, forse questo lavoro non è così importante”. Ora ho una visione diversa: piuttosto che ritenere poco importante il lavoro della SIAI, penso che siano gli altri lavori di accademici intelligenti e pensatori non accademici a essere più importanti di quanto avessi capito. Queste intuizioni intellettuali che davo per scontate non avvengono per caso. La SIAI e gli altri filosofi contribuiscono al progresso generale dell’umanità verso una maggiore saggezza e forniscono altre spalle giganti su cui le generazioni successive possono poggiare.
Per la cronaca, penso che il lavoro di MIRI sia tra i migliori che si stiano facendo in questo momento e incoraggio provvisoriamente le donazioni a MIRI, ma ho anche la prospettiva di vedere che MIRI non è astronomicamente più prezioso in senso controfattuale rispetto ad altre cause che contribuiscono alla missione generale.
Vorrei anche sottolineare che non tutto il lavoro nell’IA o nelle scienze cognitive è necessariamente tutto sommato positivo. Incoraggerei un progresso intellettuale differenziale in cui ci concentriamo su questioni etiche e sociali a un ritmo più veloce rispetto alle questioni puramente tecniche, perché altrimenti rischiamo di avere un grande potere senza strutture adeguate per limitarne l’uso.
Questa prospettiva meta-livello, in cui riconosciamo gli effetti collaterali delle azioni sul futuro, disinnesca anche il fanatismo più estremo: i guadagni infiniti. Alcuni scenari ipotetici in fisica o in altri ambiti offrono la prospettiva di avere un impatto infinito con i propri sforzi. Se è così, lavorare per influenzare questi risultati non dovrebbe dominare su tutto il resto? La risposta è “no”, perché in realtà tutto ciò che facciamo ha implicazioni per questi scenari infiniti. Costruire la saggezza, promuovere la cooperazione e così via faranno tutti la differenza per i risultati infiniti, se esistono, e in effetti è solo acquisendo una saggezza molto maggiore che abbiamo la possibilità di fare le scelte giuste rispetto a queste decisioni potenzialmente infinite. Come negli esempi più banali di valutazione di organizzazioni di beneficenza, la fissazione su un particolare scenario sembra potenzialmente dominata dall’incoraggiamento di condizioni sociali di più ampia utilità, che possono consentire di affrontare un ampio spettro di possibili scenari (alcuni dei quali non possiamo ancora immaginare). Naturalmente, lavorare su un caso specifico può essere un modo per incoraggiare l’esplorazione di casi più ampi, ma l’apparente valore diretto di concentrarsi su un’idea specifica può essere superato dal valore indiretto di incoraggiare una più profonda comprensione dell’intera classe di idee.
Per questo motivo, anche i massimizzatori di pura utilità in aspettativa, senza limiti alla loro funzione di utilità, tenderanno ad agire in modo piuttosto normale: Anche in questo caso, la migliore strategia generale è probabilmente quella di creare le condizioni affinché altri affrontino il problema in modo più saggio, piuttosto che fare unilateralmente qualcosa di folle. (Vedi anche “Supposizione stabilizzatrice empirica” in “Etica dell’infinito”).
Sebbene questa discussione sia stata concepita per andare nella direzione di riconoscere quella che Holden Karnofsky chiama “efficienza del mercato ampio”, ciò non significa che tutte le organizzazioni di beneficenza siano uguali. Infatti, molte azioni che potremmo intraprendere avrebbero conseguenze negative, sia a breve che a lungo termine, e anche tra le organizzazioni di beneficenza è probabile che ce ne siano alcune che causano più danni che benefici. Gli effetti indiretti a lungo termine sono notoriamente complicati, quindi anche un’attività con buone intenzioni potrebbe rivelarsi dannosa. Detto questo, così come non mi aspetto che alcune organizzazioni di beneficenza siano astronomicamente migliori di altre, non mi aspetto nemmeno che molte organizzazioni siano estremamente negative.
Gli effetti indiretti a lungo termine non ci impediscono di esprimere giudizi sull’efficacia relativa. Probabilmente studiare modi per ridurre la sofferenza in futuro è molto più importante che studiare gli scarabei stercorari, per usare un esempio del filosofo Nick Bostrom. Ma non è chiaro se studiare direttamente la sofferenza futura sia più importante di molti ordini di grandezza. Gli strumenti e le intuizioni sviluppati in un ambito tendono a trasferirsi ad altri. E in generale, è importante perseguire una diversità di progetti, per scoprire cose che non si sapeva di non sapere. Potendo scegliere tra 1000 articoli sulla sofferenza futura e 1000 sugli scarabei stercorari, rispetto a 1001 articoli sulla sofferenza futura e 0 sugli scarabei stercorari, sceglierei la prima.
Migliorare la saggezza futura è positivo se ci si aspetta che le persone future continuino a comportarsi all’incirca in un modo che voi approvereste, cioè facendo cose che generalmente sono in accordo con ciò che vi sta a cuore, con possibili modifiche basate su intuizioni che loro hanno e che voi non avete. La situazione è più complicata per coloro, come gli utilitaristi negativi, i cui valori sono fortemente divergenti da quelli della maggioranza e probabilmente lo saranno a tempo indeterminato. Se la maggior parte delle persone con maggiore saggezza diffondesse la vita (e quindi la sofferenza) in lungo e in largo nel cosmo, allora rendere il futuro più saggio non sarebbe un male per i valori degli utilitaristi negativi?
Forse sì, ma credo che un futuro più saggio sia probabilmente positivo anche per gli utilitaristi negativi. Per prima cosa, se le persone sono più sofisticate, è più probabile che provino empatia per la tua posizione utilitarista negativa, rendendosi conto che sei un altro cervello molto simile a loro che, guarda un po’, pensa a sua volta che la sofferenza sia molto brutta, e di conseguenza potrebbero preoccuparsi un po’ di più della sofferenza, anche se non nella stessa misura in cui lo fanno gli utilitaristi negativi. Inoltre, anche se le persone future non cambiassero le loro prospettive morali, dovrebbero almeno riconoscere che strategicamente i compromessi vantaggiosi sono migliori per i loro valori, quindi sembra che una popolazione più saggia dovrebbe essere più propensa a cooperare e a fare concessioni alla minoranza di utilitaristi negativi. Per analogia, la democrazia è generalmente migliore di una dittatura casuale per tutti i membri della democrazia, non solo per la maggioranza.
Se avete valori insoliti, è meno probabile che le opportunità a portata di mano siano state colte e che il mercato della beneficenza sia efficiente come quello di altre persone. Detto questo, nella misura in cui il vostro impatto sarà in ultima analisi mediato dal vostro effetto sul futuro, anche i vostri strani valori potrebbero, a seconda delle circostanze, essere meglio promossi da progetti di saggezza e di promozione della pace simili a quelli importanti per la maggioranza, anche se questa conclusione sarà più tenue nel vostro caso.
Lavorare su interventi solidi e positivi sembra una forma di avversione al rischio. Uno scettico potrebbe sostenere: “Volete essere sicuri di non causare danni, senza considerare i possibili vantaggi di approcci più rischiosi”. Tuttavia, come credo sia chiaro dagli esempi riportati in questo articolo, la solidità delle cause non è una vera e propria riduzione del rischio, ma è la nostra migliore speranza di fare qualcosa con un valore atteso che non sia approssimativamente pari a zero. Su molte questioni concrete, una determinata azione ha la stessa probabilità di causare danni e benefici, e ci sono così tante variabili da considerare che fare un passo indietro per esplorare ulteriormente è il modo migliore per migliorare le nostre prospettive. A lungo termine, l’investimento nella conoscenza altruistica e nelle istituzioni sociali per affrontare i problemi sarà spesso più redditizio del tentativo di puntare le nostre risorse su una scommessa concreta che vediamo in questo momento.
Naturalmente, questo non significa che dovremmo sempre scegliere l’azione più sicura possibile dal punto di vista del non causare danni rispetto a uno status quo di inazione. (Per minimizzare i danni attesi rispetto allo status quo, l’opzione migliore sarebbe mantenere lo status quo). A volte si può andare troppo in profondità. A volte ci sono casi in cui sento che dobbiamo portare avanti idee non convenzionali e non aspettare che la società nel suo complesso si metta al passo, ad esempio diffondendo la preoccupazione per la sofferenza degli animali selvatici o considerando le possibilità di sottoprogrammi capaci di soffrire. Ma dovremmo anche evitare di fare qualcosa di folle perché un calcolo ad alta varianza del valore atteso suggerisce che potrebbe avere un guadagno maggiore nel breve termine. Far progredire la cooperazione e la saggezza future non è solo un modo più sicuro di fare del bene, ma probabilmente ha anche un valore atteso maggiore.
In definitiva, la scelta di dove concentrarsi si riduce a un calcolo del valore atteso. Se cercassimo solo di trovare un modo per avere un impatto positivo, potremmo, ad esempio, visitare una casa di riposo e giocare a scacchi con le persone che vi abitano per tener loro compagnia. Questo è ammirevole e ha un rischio molto basso di effetti collaterali negativi, ma non ha un valore atteso massimo (tranne forse con moderazione come modo per migliorare il proprio benessere spirituale). D’altra parte, anche spendere tutte le risorse in una scommessa a lungo termine per migliorare il futuro lontano, basata su un’ipotesi altamente specifica di come si svolgeranno gli eventi, non ha il massimo valore atteso. Al di fuori della frontiera efficiente, più rischio non significa necessariamente più rendimento atteso. Un approccio che migliora ampiamente i risultati futuri tenderà ad avere una probabilità ragionevolmente alta di avere un impatto ragionevolmente significativo, quindi il valore atteso tenderà a essere competitivo.
La discussione in questa sezione è diventata lunga, quindi l’ho spostata in un nuovo saggio.
I gruppi spesso si considerano diversi e speciali. Alle persone piace sentirsi come se stessero scoprendo cose nuove e fossero pionieri di una frontiera non ancora esplorata. Ho visto molti casi in cui vecchie idee vengono riciclate sotto una nuova, accattivante etichetta, anche se le persone finiscono per fare per lo più le stesse cose che facevano prima. Questa tendenza assomiglia alla moda. A volte questo accade in ambito accademico, come quando i vecchi metodi statistici vengono ribattezzati “intelligenza artificiale” o quando le tecniche standard di un campo vengono reintrodotte come “la novità”.
Penso che il movimento dell’altruismo efficace (AE) abbia alcune proprietà della moda. È composto da giovani idealisti che pensano di aver scoperto nuovi principi su come migliorare il mondo. Per esempio, da A critique of effective altruism:
Gli altruisti efficaci spesso esprimono sorpresa per il fatto che l’idea di altruismo efficace sia nata solo di recente. Per esempio, il mio gruppo studentesco ha recentemente ospitato Elie Hassenfeld per una conferenza in cui ha fatto osservazioni in tal senso, e ho sentito altre persone che lavorano per organizzazioni AE esprimere le stesse opinioni.
Certamente ci sono idee e metodologie nuove nell’AE, ma la maggior parte dei principi del movimento sono molto antichi:
L’altruismo esiste da prima che esistesse l’essere umano (anche nei mammiferi, negli uccelli, ecc.). Le forme più moderne hanno almeno secoli di vita. L’idea di “avere il miglior impatto sul mondo” è ciò che molti idealisti nel corso della storia hanno sempre voluto realizzare.
Anche la quantificazione e il pensiero razionale sono antichi, ma anche nelle loro forme moderne sono diffusi da molti decenni in economia, finanza, ingegneria, ecc. I principi su come essere “efficaci” sono standard per chiunque nel mondo degli affari e, francamente, per molti nel mondo del non profit, specialmente nelle organizzazioni di beneficenza migliori.
Anche le radici filosofiche dell’AE sono state discusse per decenni. I principali aspetti nuovi tendono a riguardare le tecnologie emergenti e gli scenari futuri che non erano disponibili per le generazioni passate.
Quando consideriamo gli effetti indiretti a lungo termine, ci rendiamo conto che le nostre azioni non sono immensamente più importanti di quelle che altri altruisti stanno già facendo. Non abbiamo una bevanda magica che ci rende astronomicamente più efficienti.
Penso che sia utile saperne di più in molti campi. La letteratura accademica e sul non profit contiene già molti scritti di importanza sui movimenti sociali, su cosa funziona e cosa non funziona per avere un impatto, su come fare raccolta fondi, su come gestire un’organizzazione, ecc. Le grandi fondazioni hanno persone intelligenti che hanno già riflettuto a fondo su questi temi. Anche l’uomo della strada ha una vita di saggezza accumulata da cui si può imparare. Se pensiamo a quanta conoscenza c’è nel mondo e a quanto poco potremo mai imparare nel corso della nostra vita, la conclusione ci impone un po’ di umiltà. È bene riconoscere il nostro posto in questo quadro molto più ampio, piuttosto che presumere di avere le risposte (soprattutto in età così giovane per molti di noi).
Uno dei motivi per cui gli altruisti efficaci possono considerarsi speciali è che hanno appreso attraverso il movimento AE molte idee potenti che in realtà sono molto più antiche e generali, compresi concetti di economia, sociologia, business e filosofia. Carl Shulman ha discusso questo fenomeno in Don’t revere the bearer of good info con riferimento agli scritti di Eliezer Yudkowsky. Carl sottolinea l’importanza di uscire dalla propria cerchia per vedere un quadro del mondo molto più ampio di quello di cui la nostra comunità tende a parlare. Con l’avanzare dell’età, mi sono sentito sempre più umile nel vedere quante cose gli altri hanno già capito e da quanto sia difficile decidere dove si può fare la differenza più grande.
Per molti versi il movimento dell’altruismo efficace può essere visto come un’estensione dei principi del mondo degli affari al settore non profit: Quantificazione e metriche, attenzione alle prestazioni piuttosto che alle spese generali, enfasi sul costo-efficacia e sul rendimento dell’investimento, ecc. Per la maggior parte questa mentalità aziendale è positiva, ma ci sono almeno due modi in cui può portare fuori strada le organizzazioni di beneficenza, sia nel movimento dell’altruismo efficace che altrove.
Nel mondo degli affari, (pressoché) tutto ciò che conta per gli azionisti è la performance finanziaria di un’azienda, misurata in dollari. Il prezzo delle azioni di un’azienda può descrivere molto, comprese le proiezioni a lungo termine per l’industria oltre ai profitti a breve termine, ma anche molte altre cose, compresa la maggior parte delle esternalità che l’azienda ha, a meno che non influenzino i suoi profitti, come le tasse e le normative governative.
Allo stesso modo, nell’altruismo, se introduciamo la mentalità della “linea di fondo”, possiamo sovra-ottimizzare questa metrica e ignorare altre importanti caratteristiche dell’organizzazione di beneficenza. Ciò potrebbe comportare un’eccessiva concentrazione sui QALY/$ o sugli animali salvati/$, ignorando gli effetti indiretti a lungo termine (esternalità) e le implicazioni per il futuro lontano che il lavoro potrebbe comportare. GiveWell ha contribuito a scoraggiare l’eccessiva attenzione alle metriche visibili, e anche la maggior parte delle altre organizzazioni efficaci riconosce questo problema. Tuttavia, credo che l’ottimizzazione ingenua delle metriche sia una mentalità in cui è facile cadere quando si incontra per la prima volta l’altruismo efficace. L’ottimizzazione nell’ingegneria o nella finanza è un processo molto più preciso dell’ottimizzazione nell’organizzazione di beneficenza o nel policy making, e a volte gli strumenti che funzionano straordinariamente bene nel primo caso falliscono nel secondo rispetto alle cosiddette competenze “soft science”.
Nel mondo degli affari, un’altra azienda che offre ai clienti un servizio simile al vostro è un concorrente e il vostro obiettivo è quello di sottrargli la maggior quota di mercato possibile. L’unico costo del marketing è il denaro che si spende per farlo, e se si sottrae un numero sufficiente di clienti al concorrente, ne vale la pena.
Le organizzazioni di beneficenza, sia altruisti efficaci che di altro tipo, possono adottare una mentalità simile: vogliono più donatori per la loro causa, senza prestare troppa attenzione a quali organizzazioni di beneficenza stanno sottraendo donatori. Le organizzazioni legate all’altruismo efficace si preoccupano dei problemi di sostituibilità e riconoscono che allontanare i donatori da altre questioni potrebbe essere importante, ma di solito ritengono che l’organizzazione di beneficenza che stanno promuovendo sia molto più efficace di quella da cui stanno allontanando le persone, quindi non c’è molto da perdere. È possibile che questo sia vero in alcuni casi, ad esempio se si incoraggiano i donatori a finanziare la prevenzione dell’HIV invece dei trattamenti per l’AIDS, o reclutando donatori che avrebbero finanziato gallerie d’arte, ma in altri casi diventa molto meno chiaro. Soprattutto nel campo dell’analisi politica e dell’attivismo, che probabilmente hanno alcuni dei rendimenti più alti, è più difficile dire che un’organizzazione di beneficenza è molto più importante di un’altra, perché le questioni sono complesse e sfaccettate.
Quindi, per gli altruisti, il costo del marketing e della raccolta fondi è più del tempo e del denaro necessari per realizzarli. L’organizzazione di beneficenza non è una competizione.
Dopo aver scritto questo articolo, mi sono imbattuto in una presentazione tenuta da Nick Beckstead nel luglio 2013. Nick espone diversi punti di vista simili a quelli espressi in questo saggio. Ad esempio, la sua slide conclusiva (p. 39):
Una questione interessante e, credo, poco chiara, è quella che riguarda il dove ci si voglia collocare nello spettro mirato o ampio.
Molte cose ordinarie fatte da persone che non pensano affatto al futuro lontano possono essere preziose secondo gli standard del futuro lontano.
Gli approcci ampi (compreso il progresso tecnologico generale) sembrano più solidamente validi, ma alcuni approcci mirati possono portare a rendimenti superiori se fatti correttamente.
Le domande sono molte e complesse e per metterle insieme è necessario pensare in grande. Lo studio di approcci mirati si distingue in qualche modo perché ha un potenziale di rendimento superiore.
Nick propone alcuni obiettivi decisamente positivi (p. 5):
Coordinamento: quanto le persone sono ben coordinate.
Capacità: quanto gli individui sono capaci di raggiungere i loro obiettivi.
Motivazioni: quanto le persone sono ben motivate.
Informazioni: in che misura le persone hanno accesso alle informazioni.
Sono d’accordo con il coordinamento e le motivazioni. Sono meno sicuro per quanto riguarda le informazioni, perché accelerano lo sviluppo dei rischi e delle misure di sicurezza. Lo stesso vale per la capacità. Sarei quindi favorevole a spingere sulla saggezza e sul compromesso relativamente più che sulla crescita economica e tecnologica. Nick riconosce questo aspetto a pag. 30:
Gli approcci di ampio respiro hanno maggiori probabilità di migliorare le cose cattive e quelle buone.
L’aumento delle capacità/informazioni generali delle persone rende le persone più capaci di fare cose che sarebbero pericolose, compensando alcuni dei benefici dell’aumento delle capacità/informazioni.
Migliorare il coordinamento o le motivazioni può farlo in misura minore.
Lo stesso Nick sostiene che una crescita economica più rapida è molto probabilmente positiva perché migliora la cooperazione e la tolleranza. Cita Le conseguenze morali della crescita economica di Benjamin Friedman: “La crescita economica, vale a dire un aumento del tenore di vita per la netta maggioranza dei cittadini, il più delle volte favorisce maggiori opportunità, tolleranza della diversità, mobilità sociale, impegno per l’equità e dedizione alla democrazia”. Sono d’accordo, ma la questione non è se la crescita economica abbia effetti positivi di questo tipo, ma se questi effetti possano superare i rischi che essa accelera. Credo che questa domanda sia ancora irrisolta.
Alle pp. 18-19, Nick devia l’argomentazione secondo cui una tecnologia più veloce è un male netto sottolineando che significa anche contromisure più rapide, oltre ad alcune altre considerazioni che ritengo secondarie. Questo punto è rilevante, ma secondo me che non è chiaro quale sia il bilancio netto. A mio parere, è troppo presto per dire che una tecnologia più veloce sia un bene netto, e ancor meno che sia sufficientemente buona da spingere su di essa rispetto ad altre cose.
A pag. 24, Nick riprende il mio punto di vista sul rinviare al futuro alcune questioni:
In un certo senso, cercare di aiutare le persone future a gestire meglio sfide specifiche è come cercare di aiutare le persone di un altro Paese a risolvere le loro sfide specifiche, e farlo senza conoscere a fondo la situazione e senza poter viaggiare nel loro Paese o parlare con qualcuno che ci sia stato di recente.
A volte, solo noi possiamo lavorare sul problema (questo è vero per il cambiamento climatico e per le persone che saranno vive tra 100 anni).
È meno chiaro se si tratta di rischi legati alla tecnologia del futuro.
Nick conclude con alcune importanti domande di ricerca su esempi storici di quali interventi siano stati più importanti e su quali siano le opportunità attuali e i deficit di finanziamento/talenti.
Carl Shulman ha pubblicato un articolo, What proxies to use for flow-through effects?, che suggerisce molte possibili metriche rilevanti per gli impatti sul lontano futuro, anche se spiega che non tutte hanno sempre un segno chiaramente positivo. Dall’elenco di Carl, ecco alcune che ritengo siano decisamente positive:
Istruzione per aumentare la “saggezza”.
Pace e cooperazione internazionale, compresi tutti i sottoprogetti di Carl.
Metriche di qualità istituzionale.
Il valore della maggior parte delle altre metriche è meno chiaro per me, tra cui la crescita economica, la popolazione, l’istruzione in generale e soprattutto la tecnologia. Carl cita il World Values Survey come un’importante dimostrazione dell’impatto della ricchezza pro capite sulla razionalità e sulla prospettiva cosmopolitica.
All’interno della categoria “saggezza”, includerei la scientometria che Carl cita per le scienze naturali applicate alle scienze sociali e alla filosofia. Ad esempio, il numero di pubblicazioni, il numero di pagine web che trattano questi argomenti, il numero e la lunghezza degli articoli di Wikipedia su questi argomenti, ecc. Naturalmente, il valore di alcuni di questi campi è nel risultato, nella misura in cui migliorano la democrazia, la trasparenza, la cooperazione globale e così via.
Nei commenti, Nick Beckstead ha suggerito la disuguaglianza come un’altra metrica possibile. Non ho studiato a fondo la letteratura, ma ho sentito argomenti su come essa eroda molti altri parametri rilevanti, tra cui la fiducia, la cooperazione, la salute mentale e la gentilezza interpersonale. Per esempio, secondo Richard Wilkinson: “Dove c’è più uguaglianza usiamo strategie sociali più cooperative, ma dove c’è più disuguaglianza, le persone sentono di doversi arrangiare da sole e la competizione per lo status diventa più importante”.
Potrebbe sembrare che siamo incapaci di rispondere a considerazioni cruciali non ancora scoperte su come dovremmo agire. Può essere che la nostra unica opzione è quella di continuare a fare ricerca per trovare altre considerazioni cruciali e far progredire la società verso uno stato più cooperativo e saggio nel frattempo? Non necessariamente. Forse un’altra possibilità è quella di modellare le considerazioni cruciali incognite.
Consideriamo la seguente narrazione. Andrew è un ragazzo che vede delle persone che si recano a una raccolta di donazioni di sangue. Non sa cosa stiano facendo, ma vede che vengono infilati degli aghi. Conclude che non gli piacerebbe partecipare a una raccolta di sangue. Chiamiamo questa “valutazione iniziale” (VI) e rappresentiamola con un numero per indicare se è favorevole o contraria all’azione. In questo caso, Andrew presume che non gli piacerebbe partecipare alla raccolta di sangue, quindi diciamo , dove il numero negativo significa “contrario”.
Qualche anno dopo, Andrew scopre che le donazioni di sangue hanno lo scopo di salvare vite umane, il che è positivo. Questa considerazione cruciale non è stata anticipata prima, il che la rende una scoperta “incognita ignota”. Poiché si tratta della prima intuizione incognita ignota di Andrew, chiamiamola . Poiché questa considerazione favorisce la donazione di sangue, e lo fa in misura maggiore rispetto alla valutazione iniziale di Andrew che si opponeva alla donazione di sangue, diciamo . Since , Andrew ora dona il sangue alle unità.
Tuttavia, un anno dopo, Andrew diventa un ecologista convinto. Ritiene che gli esseri umani stiano rovinando la Terra e che la conservazione della natura meriti più importanza delle vite umane. Donare sangue permette a una persona in un Paese ricco di vivere forse qualche anno in più, durante il quale la persona viaggerà in auto, mangerà cibo coltivato, userà l’elettricità e così via. Andrew ritiene che questi impatti ambientali siano sufficientemente negativi da non valere il beneficio di salvare la vita della persona. Diciamo che , così che ora , e Andrew smette di nuovo di donare il sangue.
Dopo qualche mese, Andrew legge Peter Singer e si rende conto che anche i singoli animali sono importanti. Dal momento che le attività umane, come guidare e coltivare cibo, feriscono e uccidono molti animali selvatici, Andrew conclude che questa intuizione è un ulteriore argomento contro la donazione di sangue. Diciamo che .
Tuttavia, non molto tempo dopo, Andrew viene a conoscenza della sofferenza degli animali selvatici e si rende conto che gli animali soffrono immensamente anche quando non vengono danneggiati dagli esseri umani. Poiché l’attività umana sembra aver ridotto nel complesso le popolazioni di animali selvatici, Andrew conclude che è meglio che esistano più esseri umani e che questo compensi il danno che essi causano agli animali selvatici e al pianeta. Supponiamo che . Ora . Andrew dona il sangue ancora una volta.
Infine, Andrew si rende conto che la donazione di sangue richiede tempo che potrebbe altrimenti dedicare ad attività utili. Questa considerazione è rilevante ma non dominante. .
Che dire delle considerazioni cruciali future che Andrew non ha ancora scoperto? Può fare delle affermazioni su di esse? Un modo per farlo sarebbe quello di modellare le incognite ignote (II) come se fossero campionate da una distribuzione di probabilità P: per tutti gli . La distribuzione delle II finora era -1. La media del campione è 1, e l’errore standard è 2,6. L’errore standard è abbastanza grande da non permettere ad Andrew di avere molta fiducia nelle II future, anche se la media del campione suggerisce molto debolmente che le II future hanno in media più probabilità di essere positive che negative.
Se invece Andrew disponesse di 100 punti dati sulle II, l’errore standard sarebbe molto più ridotto, il che darebbe maggiore fiducia. Questo illustra una lezione sulla gestione delle II: Più considerazioni si sono già fatte, più si può essere sicuri che anche la distribuzione delle II rimanenti abbia una media positiva.
Il fatto che si possa prevedere qualcosa sulle II pur non sapendo quali saranno si può vedere più chiaramente in un caso in cui le II attuali sono più sbilanciate. Per esempio, supponiamo che l’azione in esame sia “fare a botte con gente a caso per strada”. Sebbene questa azione abbia probabilmente alcune considerazioni a suo favore, quasi tutte le considerazioni cruciali che si possono pensare sono contrarie all’idea, il che suggerisce che anche la maggior parte delle nuove II sarà contraria.
Modellare le II in pratica potrebbe essere più complicato di quanto discusso qui, perché non è chiaro quante II rimangano (anche se si potrebbe applicare una distribuzione di probabilità a priori sul numero rimanente), né è chiaro se tutte provengano da una distribuzione di probabilità fissa. Forse le II future tendono a dominare quelle passate in termini di dimensioni, portando a stime sempre più instabili; per esempio, se le II precedenti tendono a cambiare il segno di molte considerazioni precedenti in una volta sola, allora l’ultima II avrebbe una grandezza sempre maggiore con il passare del tempo, poiché dovrebbe “annullare” sempre più II passate. Inoltre, non è chiaro come suddividere le intuizioni in gruppi di II. Per esempio, l’intuizione che donare il sangue aiuta gli animali selvatici potrebbe essere enunciata semplicemente come una singola II di magnitudine 10, oppure potrebbe essere suddivisa in “donare il sangue aiuta i vertebrati selvatici” (magnitudine 2) e “donare il sangue aiuta gli invertebrati selvatici” (magnitudine 8). Diversi modi di suddividere le II porterebbero a una diversa distribuzione di probabilità stimata, anche se il segno della media del campione rimarrebbe sempre lo stesso.
L’approccio che ho descritto presenta dei problemi. Magnus Vinding mi ha fatto notare che:
Quando si parla di II, il problema principale è che praticamente tutto il nostro sistema di valori e la nostra visione del mondo sembrano essere in palio e, inoltre, le diverse II probabilmente dipenderanno in modi profondi e complessi che renderanno molto difficile il loro modello. Anche il modello delle interrelazioni tra le II del nostro campione e il modo in cui esse si modificano a vicenda sembra un elemento necessario da includere in un’analisi di questo tipo.
Le mie riflessioni su questi temi sono state influenzate da molti pensatori dell’altruismo efficace, tra cui Holden Karnofsky, Jonah Sinick e Nick Beckstead. Si veda anche il libro di Paul Christiano Beware brittle arguments.
La discussione di questo saggio sul forum Facebook “Effective Altruists” include un dibattito sul fatto che gli effetti indiretti a lungo termine siano effettivamente significativi rispetto agli effetti di primo ordine e su quanto sia inevitabile il futuro.