L’uso dell’IA per migliorare il processo decisionale a livello sociale
Riassunto
L’arrivo dell’IAG potrebbe “comprimere un secolo di progressi in un decennio”, costringendo l’umanità a prendere decisioni con una posta in gioco più alta che mai — e con meno tempo a disposizione per fare le scelte giuste.
Ma lo sviluppo dell’IA rappresenta anche un’opportunità: potremmo costruire e implementare strumenti di IA che ci aiutino a pensare più lucidamente, ad agire più saggiamente e a coordinarci più efficacemente. E se distribuissimo questi strumenti decisionali abbastanza rapidamente, l’umanità potrebbe essere preparata molto meglio per affrontare il periodo critico che ci attende.
Saremmo entusiasti di vedere un maggior numero di persone cercare di accelerare lo sviluppo e l’adozione di questi strumenti. Riteniamo che, per la persona giusta, questo percorso potrebbe rivelarsi una scelta con impatto molto elevato.
Detto ciò, non si tratta di un settore maturo. C’è una notevole incertezza su quale lavoro si rivelerà effettivamente più utile, e impegnarsi in questo ambito comporta potenziali rischi di effetti negativi.
Quindi la nostra ipotesi è che, in questa fase, sarebbe fantastico se alcune centinaia di persone particolarmente riflessive e intraprendenti lavorassero all’uso dell’IA per migliorare il processo decisionale a livello sociale. Se il campo dovesse rivelarsi promettente, potrebbero aprire la strada al coinvolgimento di altre persone in seguito.
La nostra visione d’insieme
A volte raccomandato
Ci piacerebbe vedere più persone lavorare su questo tema. Ma potresti fare ancora più bene lavorando su una delle nostre aree di problemi di massima priorità.
Profondità del profilo
Profondità media.a
Perché il progresso degli strumenti decisionali basati sull’IA potrebbe essere molto importante
Gli esseri umani spesso commettono gravi errori.
Le nostre istituzioni hanno ignorato gli scienziati del clima per decenni, hanno reagito in modo inefficace ai primi allarmi sul COVID-19 e si sono precipitate in innumerevoli guerre di cui tutte le parti si sono poi pentite. È sorprendente quanto le nostre decisioni effettive a volte si discostino da ciò che, col senno di poi, appare palesemente necessario.
Perché questo continua a succedere? A volte interpretiamo male i fatti o non riusciamo a prevedere le sfide che ci attendono. Altre volte sappiamo che c’è un problema, ma non agiamo in misura sufficiente né riusciamo a coordinare una risposta.b
Attualmente stiamo sviluppando rapidamente sistemi di IA avanzati che potrebbero trasformare ogni aspetto della società, rendendo un buon processo decisionale ancora più cruciale. Presto potremmo trovarci a dover gestire:
- Una popolazione del tutto nuova di agenti estremamente potenti, con obiettivi e interessi potenzialmente diversi da quelli umani
- Un mercato del lavoro totalmente trasformato in cui i sistemi di IA, anziché gli esseri umani, guidano gran parte o la totalità del progresso economico
- IA che sviluppano nuove tecnologie avanzate — comprese armi — più velocemente di quanto riusciamo a studiarne i rischi
- Tensioni sociali e geopolitiche su chi controlli o riceva i benefici dell’IA avanzata, che potrebbero degenerare in conflitti
I sistemi di IA avanzati potrebbero anche produrre idee e output economici molto più velocemente degli esseri umani, arrivando potenzialmente a comprimere un secolo di progressi in un decennio — il che significa che decisioni che un tempo richiedevano anni potrebbero dover essere prese nel giro di pochi mesi.
Quindi la probabilità di commettere passi falsi è elevata. E, come abbiamo sostenuto altrove, la posta in gioco potrebbe essere di portata esistenziale.
Se vogliamo affrontare al meglio questo periodo, dovremo pensare con maggiore lucidità, agire con più saggezza e coordinarci in modo più efficace rispetto al passato. E si tratta di un’impresa ardua.
Gli strumenti di IA potrebbero aiutarci a prendere decisioni nettamente migliori
Lo sviluppo di un’IA avanzata potrebbe rendere il processo decisionale più arduo e, al contempo, alzare la posta in gioco per le decisioni future dell’umanità. Ma l’IA non è un monolite e, per quanto possa sembrare controintuitivo, riteniamo che alcuni strumenti di IA potrebbero effettivamente rivelarsi parte della soluzione.
I sistemi di IA sono in grado di fare cose semplicemente impossibili per gli esseri umani: possono assimilare molte più informazioni, elaborarle a velocità di gran lunga superiori e migliorare le proprie prestazioni allenandosi milioni di volte nello stesso compito.
Hanno già battuto i migliori esseri umani in giochi di strategia come il Go, e ora stanno ottenendo risultati impressionanti anche in compiti complessi di ragionamento e risoluzione dei problemi. E se hai mai utilizzato strumenti di “ricerca approfondita” di aziende di IA come OpenAI e Google DeepMind, saprai che i modelli attuali sono in grado di elaborare enormi quantità di informazioni per trarre conclusioni coerenti molto più velocemente persino delle menti umane più brillanti.
Alla luce di ciò, riteniamo di essere a un passo dal disporre di strumenti di IA in grado di migliorare significativamente il processo decisionale umano — alcuni potrebbero persino essere realizzabili con la tecnologia odierna.
Due tipi sembrano particolarmente promettenti:c
- Strumenti epistemici, che ci aiutano a capire cosa è vero e cosa è probabile che accada. Ad esempio:
- I fact-checker basati sull’IA potrebbero essere valutatori di informazioni più affidabili e imparziali rispetto agli esseri umani. Attualmente la società fatica a trovare un consenso su questioni di fatto: si pensi a quanto spesso i disaccordi politici si riducano a una disputa sui fatti, o a quanto facilmente la disinformazione si diffonda online. Sarà necessario migliorare molto in questo ambito se dovremo affrontare lo sconvolgimento epistemico causato dall’IA avanzata.
- I sistemi di previsione basati sull’IA potrebbero aiutare le istituzioni a formulare previsioni migliori sugli eventi mondiali e a modellizzare gli effetti delle diverse politiche.d
- In un’ottica più speculativa, gli strumenti di IA per il progresso morale potrebbero aiutarci a ragionare su complesse questioni etiche e potenzialmente a raggiungere un maggiore consenso come società.
- Strumenti di coordinamento, che aiutano i gruppi a collaborare e a prendere decisioni collettive migliori, pur avendo interessi contrastanti. Ad esempio:
- Gli strumenti di negoziazione basati sull’IA potrebbero individuare accordi reciprocamente vantaggiosi che altrimenti sfuggirebbero — magari simulando rapidamente migliaia di ore di trattative e testando un vasto numero di alternative prima di formulare una proposta.
- I sistemi di verifica basati sull’IA potrebbero monitorare in modo affidabile e imparziale il rispetto degli accordi, superando le barriere di fiducia che spesso impediscono ai gruppi di cooperare.
- Gli strumenti di trasparenza strutturata potrebbero consentire una condivisione delle informazioni strettamente controllata, permettendo alle parti di individuare minacce specifiche provenienti dalle altre — come ad esempio se qualcuno stia costruendo armi pericolose — senza i più ampi costi in termini di privacy associati alla sorveglianza ordinaria.
- Sono in corso ricerche nel campo dell‘“IA cooperativa” volte a esplorare ulteriori modi per utilizzare l’IA al fine di migliorare il coordinamento.
Riteniamo che queste applicazioni mirino ad alcune delle falle più comuni del processo decisionale umano. Spesso ci lasciamo fuorviare da informazioni false, prevediamo erroneamente l’evolversi degli eventi, o non riusciamo a prevenire esiti che nessuno desiderava perché non siamo in grado di cooperare.
Un altro pregio di queste applicazioni è che, nel complesso, sembrano essere più utili per favorire esiti positivi piuttosto che negativi. Come regola generale, sembra che dare alle persone strumenti per comprendere meglio il mondo e coordinarsi tra loro sia di solito un bene per l’umanità — almeno partendo dal presupposto che le persone abbiano generalmente buone intenzioni.e
Naturalmente, questo presupposto non è sempre valido. Riteniamo infatti che vi sia un certo rischio che le persone utilizzino deliberatamente anche questi strumenti di IA per causare danni — una possibilità che affronteremo più avanti.
Potremmo essere in grado di accelerare in modo differenziale l’introduzione degli strumenti decisionali basati sull’IA
Al momento, solo una manciata di progetti sta sviluppando i tipi di strumenti di IA descritti sopra — una goccia nell’oceano rispetto ai miliardi investiti nello sviluppo di agenti di IA con capacità più ampie.
Inoltre, c’è spesso un ritardo tra il momento in cui la società ha la capacità di realizzare un prodotto e quello in cui questo viene effettivamente realizzato e distribuito con successo. Si pensi ai vaccini contro il COVID-19: sebbene la tecnologia a mRNA alla base di questi vaccini fosse stata dimostrata a metà degli anni 2000, questi sono effettivamente arrivati solo alla fine del 2020 — a quasi un anno dall’inizio della pandemia.
Questo indica un’opportunità: potremmo essere in grado di accelerare lo sviluppo e l’adozione di strumenti decisionali basati sull’IA, il che significherebbe ottenerne i benefici più rapidamente. Anche una piccola accelerazione potrebbe rivelarsi determinante — ad esempio, ottenere strumenti di verifica sofisticati solo pochi mesi prima potrebbe far sì che degli impegni critici in materia di sicurezza vengano definiti prima di sviluppare sistemi di IA pericolosi, invece di arrivare troppo tardi per fare la differenza.
Ciò a cui ci riferiamo qui è una forma di “sviluppo tecnologico differenziale”: influenzare l’ordine in cui emergono le diverse tecnologie al fine di rendere il mondo più sicuro. In questo caso, l’idea è di accelerare lo sviluppo di determinate capacità dell’IA che ne promuovono la sicurezza, in modo che siano disponibili prima di dover affrontare altre capacità dell’IA più rischiose.f
Poiché finora abbiamo visto pochissimi progetti in questa direzione, ci sono ancora molte opportunità a portata di mano da cogliere. Più avanti descriviamo alcune attività che riteniamo possano essere utili.
Quali sono le argomentazioni contro l’impegno per far progredire gli strumenti decisionali basati sull’IA?
Detto questo, ci sono alcune obiezioni che riteniamo si dovrebbero considerare seriamente quando si decide se lavorare in questo settore.
”Queste tecnologie potrebbero comunque essere sviluppate di default.”
Le grandi aziende di IA stanno facendo a gara per sviluppare modelli in grado di eccellere in ogni tipo di ragionamento complesso — e stanno facendo rapidi progressi. Nel frattempo, crescono gli incentivi di mercato per la creazione di prodotti di IA destinati a compiti specifici e commercialmente redditizi, che potrebbero includere alcune delle applicazioni sopra citate.
Di conseguenza, gli strumenti decisionali basati sull’IA potrebbero venire sviluppati in ogni caso da persone che cercano di trarne profitto — il che significa che questo potrebbe non rivelarsi un buon impiego di tempo per chi desidera fare del bene con la propria carriera. Perché non aspettare semplicemente che ciò accada e dedicare il proprio tempo ad altro?
In una certa misura questo sembra corretto. Come regola generale, concentrarsi su qualcosa che riceve già incentivi commerciali ridurrà probabilmente l’impatto controfattuale del tuo lavoro.
Ma pensiamo che ci siano dei modi in cui potresti comunque fare una differenza significativa in questo ambito — specialmente se ti concentri sulle lacune del mercato quando decidi quale progetto portare avanti.
In primo luogo, il tuo lavoro potrebbe comunque aiutare la società a ottenere i benefici di questi strumenti prima di quanto non sarebbero arrivati altrimenti.
Potresti accelerare le cose direttamente (ad esempio, realizzando con successo uno strumento specifico prima di chiunque altro). E anche se il tuo lavoro venisse superato da un altro progetto, potrebbe comunque avere effetti cumulativi che accelerano l’arrivo di strumenti futuri. Ad esempio, attirando maggiori investimenti o sviluppando conoscenze rilevanti, il tuo progetto potrebbe consentire ad altri di raggiungere un certo traguardo più velocemente — il che a sua volta potrebbe anticipare il prossimo traguardo, e così via.
E, come abbiamo detto, anche una piccola accelerazione potrebbe fare una grande differenza in questo ambito.
È importante sottolineare che, pur ritenendo che i modelli di frontiera finiranno per eccellere nei compiti di epistemica e coordinamento, limitarsi ad aspettare il rilascio di validi strumenti decisionali potrebbe significare ottenerli solo quando l’IAG sarà già arrivata. A quel punto, potrebbe essere troppo tardi per usarli allo scopo di evitare una catastrofe.
In secondo luogo, potresti riuscire a concentrarti su prodotti meno incentivati dal mercato.
Ad esempio, mentre strumenti avanzati di previsione basati sull’IA potrebbero essere sviluppati di default per usi redditizi come il trading finanziario, c’è molta meno pressione commerciale per sviluppare sistemi di IA efficaci nel prevedere altro, o per creare strumenti sofisticati per il ragionamento etico. g
“Questo non accelererebbe l’arrivo di capacità pericolose dell’IA, quando invece dovremmo rallentare?”
Accelerando il progresso di questi strumenti, potresti anche accrescere le conoscenze, l’entusiasmo e gli investimenti nella ricerca e sviluppo sull’IA in senso più ampio. Ciò potrebbe anticipare l’arrivo dell’IAG, lasciandoci meno tempo per prepararci.
Il tuo lavoro potrebbe anche potenziare alcune capacità pericolose. Ad esempio, riteniamo che i sistemi di IA eccellenti nella pianificazione comportino il rischio di privare gli esseri umani del loro potere — e lo sviluppo di sistemi eccellenti nella previsione potrebbe potenziare pericolosamente le capacità di pianificazione dell’IA.
Abbiamo approfondito queste preoccupazioni altrove e c’è molto da dire sull’argomento. Ma in questo contesto, vale la pena tenere a mente:
- Sebbene i progetti in questo settore possano contribuire in una certa misura all’hype per l’IA, questi effetti saranno probabilmente del tutto trascurabili rispetto ai miliardi di dollari già investiti nello sviluppo dell’IAG. Al contrario, potresti avere un impatto enorme sulla capacità dell’umanità di prendere decisioni sagge.
- Potresti riuscire (e probabilmente dovresti provare) a puntare su applicazioni a basso rischio che non alimentano direttamente lo sviluppo di capacità pericolose. Ad esempio, gli strumenti di fact-checking basati sull’IA sembrano molto più sicuri da realizzare rispetto a quelli che sfruttano la pianificazione strategica o la persuasione.
- Se questi strumenti migliorassero in modo significativo la nostra capacità di affrontare le sfide più grandi del mondo, nel complesso potrebbe comunque valere la pena di accettare una certa accelerazione nell’arrivo di capacità pericolose dell’IA.
C’è spazio anche per interventi che rallentano il progresso delle tecnologie pericolose, sia attraverso regolamentazioni che consentano alle aziende di dedicare il tempo necessario alla sicurezza senza subire i costi di rallentamenti unilaterali, sia magari promuovendo campagne per sospendere del tutto lo sviluppo dell’IA di frontiera. Al contempo, tuttavia, si può anche accelerare il progresso delle tecnologie che promuovono la sicurezza. E potrebbe persino essere più facile: mentre rallentare richiede l’accordo di funzionari o aziende, potresti semplicemente decidere di sviluppare un nuovo strumento senza bisogno di consensi. Inoltre, probabilmente incontreresti meno resistenza, poiché la tua strategia non comporterà la rinuncia o il rinvio dei benefici dell’IA futura (né minaccerà i profitti delle aziende più potenti).
”Le persone potrebbero usare questi strumenti in modi pericolosi.”
Come molte tecnologie, gli strumenti di IA per l’epistemica e coordinamento potrebbero essere utilizzati per causare danni.
Dopotutto, migliorare la comprensione del mondo e il coordinamento con gli altri in genere rende più abili nel raggiungere i propri obiettivi. E poiché a volte le persone hanno obiettivi dannosi per gli altri, questi strumenti talvolta le aiuteranno a compiere cattive azioni in modo più efficace.
Ad esempio, i gruppi che hanno accesso a strumenti che migliorano le loro capacità di negoziazione o di previsione potrebbero usarli per ottenere illegittimamente vantaggi strategici su chi non ne dispone. In casi estremi, ciò potrebbe potenzialmente persino agevolare pericolose prese di potere.
Ipotizziamo che gli attori con intenzioni genuinamente maligne non siano poi così comuni.h In linea di massima, sembra che la maggior parte delle decisioni dannose non avvenga perché le persone vogliono davvero causare danni, ma perché fraintendiamo una situazione, non ci rendiamo conto delle conseguenze che le nostre azioni potrebbero avere, o non riusciamo a trovare una soluzione che sia meno costosa per tutti i soggetti coinvolti — difetti che gli strumenti decisionali basati sull’IA ci aiuterebbero a superare.
E come abbiamo detto prima: una regola generale di buon senso in questo caso è che dare agli esseri umani degli strumenti per comprendere il mondo e coordinarsi meglio sembra di solito essere un bene per l’umanità.
Quindi la nostra ipotesi è che, nel complesso, gli strumenti decisionali basati sull’IA ci aiuteranno a prevenire esiti negativi più spesso di quanto non li favoriscano. Questo è uno dei motivi principali per cui siamo generalmente entusiasti di questi strumenti.
Ma questa è una generalizzazione e non varrà per ogni strumento decisionale basato sull’IA che potresti creare.i Quindi, se stai decidendo se costruire o promuovere un nuovo strumento, dovresti tenere conto dei suoi rischi specifici di uso improprio — e valutare se potrebbe effettivamente favorire usi dannosi rispetto a quelli benefici. Queste sono domande difficili, quindi dovresti chiedere aiuto quando cerchi di rispondervi.
I rischi più estremi in questo caso — come la possibilità di favorire una presa di potere — sottolineano anche l’importanza di mettere gli strumenti decisionali basati sull’IA a disposizione di un numero sufficiente di persone. Di norma, gli attori più potenti avranno accesso a tecnologie migliori rispetto a chiunque altro. Ma se riusciamo a rendere gli strumenti decisionali ampiamente accessibili e a mettere le istituzioni chiave in condizione di utilizzarli, potremmo impedire che un singolo gruppo ottenga vantaggi pericolosi sugli altri.
Potrebbe essere necessario un impegno dedicato affinché ciò si realizzi — quindi, se decidi di lavorare in questo ambito, ti incoraggiamo a profondere tale impegno.
Quindi, dovresti lavorare in questo ambito?
In conclusione: è complicato, ma se hai il profilo adatto, lavorare in questo ambito potrebbe offrire molti vantaggi. Incoraggiamo chiunque sia interessato a valutare se possa essere il percorso giusto per sé — ad esempio, candidandosi per parlare con uno dei nostri consulenti.
Per i motivi sopra indicati, sembra che alcuni lavori in questo ambito finiranno per avere un impatto molto limitato — e alcuni potrebbero persino avere effetti negativi.
È più probabile che tu riesca a evitare le insidie se riesci a dare priorità ai progetti di processo decisionale basati sull’IA che sono:
- Sottostimolati dal mercato
- Con minori probabilità di favorire lo sviluppo di altre capacità pericolose dell’IA
- Più utili per scopi benefici che per scopi dannosi, o più resistenti all’uso improprio
Ma decidere quali progetti portare avanti su questa base è molto più facile a dirsi che a farsi. E poiché non ci sono molte opportunità di lavoro concrete in questo campo, lavorarci potrebbe anche richiedere un approccio più imprenditoriale rispetto a quello necessario per affrontare molti altri problemi urgenti.
Quindi, nel complesso, non riteniamo di poter raccomandare questo lavoro ampiamente quanto raccomandiamo di lavorare in settori più maturi, dove i percorsi per ottenere un impatto sono testati meglio e delineati in modo più chiaro.
Tuttavia, riteniamo che gli sforzi per far progredire gli strumenti decisionali basati sull’IA potrebbero avere un impatto molto significativo per la persona giusta. Se sei particolarmente capace di destreggiarti nell’ambiguità, hai una mentalità imprenditoriale e un’ottima capacità di giudizio su a quali progetti dare la priorità, questo ambito potrebbe essere perfetto per te. In questa fase, saremmo entusiasti di vedere magari qualche centinaio di persone in più lavorare in questo settore.
Se ti interessa essere una di queste persone, ti consigliamo innanzitutto di costruirti una rete nella sicurezza dell’IA e di trovare persone che possano aiutarti a valutare specifiche idee di progetti.
Vale anche la pena notare che alcuni ricercatori — come gli autori di questo articolo di Forethought — sono più ottimisti di noi riguardo al fatto che molte più persone lavorino in questo settore. Quindi è possibile che lo stiamo sottovalutando!
In ogni caso, consigliamo anche di tenersi aggiornati sul panorama in evoluzione delle sfide dell’IA, e di essere pronti a cambiare rotta se altre esigenze dovessero diventare più urgenti.
Come lavorare in questo settore
Ecco le principali raccomandazioni che abbiamo raccolto per chi desidera accelerare lo sviluppo e l’adozione di strumenti decisionali basati sull’IA.
Contribuire alla creazione di strumenti decisionali basati sull’IA
La cosa più diretta che puoi fare è lavorare in una realtà che sta sviluppando gli strumenti stessi. Puoi trovare alcune organizzazioni e progetti di ricerca pertinenti che assumono personale nella nostra bacheca delle offerte di lavoro. Tuttavia, poiché attualmente il settore è di piccole dimensioni, potresti invece prendere in considerazione l’idea di fondare un tuo progetto.
In ogni caso, c’è molto da fare in questo ambito: non solo il lavoro di ingegneria di base, ma anche realizzare demo, coinvolgere stakeholder, progettare interfacce utente accattivanti per i decisori, condurre ricerche di mercato per adattare i prodotti alle esigenze degli utenti e garantire che i progetti funzionino in modo efficiente.
Questo significa che non è necessario essere un esperto tecnico per unirsi o fondare progetti di questo tipo: servono anche ottime figure operative, product manager e altro ancora.
Jungwon Byun
Jungwon ha lavorato per anni nel settore dei servizi finanziari prima di interessarsi al potenziale trasformativo — e ai rischi — dell’IA avanzata. Si è resa conto che il percorso di maggiore impatto per lei poteva consistere nell’uso dell’IA per migliorare la conoscenza umana e i processi decisionali e, nel 2019, ha co-fondato Ought: un laboratorio di ricerca dedicato a promuovere su larga scala il buon ragionamento. Nello stesso anno si è imbattuta nel sito web e nel podcast di 80,000 Hours, che l’hanno aiutata ad approfondire rapidamente la sua comprensione della sicurezza dell’IA e del rischio esistenziale.
Jungwon è oggi la COO di Elicit, uno strumento di ricerca basato sull’IA lanciato da Ought e successivamente scorporato come società benefit. Ha aiutato milioni di ricercatori a comprendere il mondo e a ragionare in modo più efficace.
Lavoro complementare
Esistono altri modi per sostenere questi sforzi senza essere direttamente coinvolti nella creazione degli strumenti. Ad esempio, potresti:
- Misurare e orientare queste capacità benefiche:
- Progettare benchmark o valutazioni per le capacità dell’IA che favorirebbero maggiormente il processo decisionale.
- Lavorare su tecnologie e infrastrutture di supporto:
- Sviluppare tecnologie complementari che aiutino a rimuovere le barriere all’adozione — ad esempio, affrontando le preoccupazioni degli utenti in materia di privacy o sicurezza.
- Curare e gestire dataset che possano essere utilizzati per addestrare strumenti decisionali specializzati basati sull’IA — ad esempio, dati su errori passati nella previsione o nella negoziazione, o note di ricerca di alta qualità provenienti da settori in cui strumenti decisionali specializzati potrebbero essere molto utili.
- Creare infrastrutture — come database o directory online — per aiutare le persone a condividere risorse e collaborare a progetti.
- Aiutare nell’implementazione:
- Contribuire a integrare questi strumenti nei processi decisionali esistenti delle istituzioni chiave, incluso formare le parti interessate su come utilizzarli.
Posizionati per poter aiutare in futuro
Se al momento non puoi lavorare su nessuno di questi fronti — o semplicemente non ritieni che sia l’opzione migliore adesso — puoi comunque posizionarti per poter aiutare in futuro:
- Potresti lavorare presso o fondare qualsiasi azienda (non dannosa), in particolare un’azienda tecnologica, in modo da poter apprendere e mettere in pratica le competenze necessarie per fondare progetti — oppure consultare gli step del capitale di carriera elencati nel nostro profilo del fondatore.
- Potresti sviluppare competenze in settori in cui questi strumenti di IA potrebbero rivelarsi particolarmente d’impatto, come la previsione o la diplomazia.
- Potresti entrare a far parte di istituzioni chiave (come agenzie governative o organismi internazionali) che potrebbero trarre grandi benefici dagli strumenti decisionali basati sull’IA — e tenerti aggiornato sulle tecnologie una volta all’interno, in modo da poter contribuire alla loro integrazione in un secondo momento.
Quali opportunità ci sono?
Il settore è attualmente di nicchia, ma la nostra bacheca delle offerte di lavoro presenta alcune opportunità rilevanti, tra cui posizioni aperte, finanziamenti e borse di studio.
Visualizza tutte le opportunità
Per saperne di più
- AI tools for existential security di Forethought e le relative appendici
- Design sketches for a more sensible world, una serie di articoli di Forethought
- What’s important in “AI for epistemics”? di Lukas Finnveden
- The most interesting startup idea I’ve seen recently: AI for epistemics di Ben Todd
- Security without dystopia: Structured transparency di Eric Drexler
- Open problems in cooperative AI di Allan Dafoe, Edward Hughes, Yoram Bachrach, Tantum Collins, Kevin R. McKee, Joel Z. Leibo, Kate Larson e Thore Graepel
Per idee specifiche di progetti, consigliamo l’elenco di idee per progetti di “epistemica” dell’IA di Lukas Finnveden e le opzioni evidenziate nella serie di “bozzetti di progettazione” di Forethought (linkata sopra). Riteniamo inoltre che gli esempi elencati nella pagina delle borse di studio della Future of Life Foundation siano ottimi, anche se le candidature per questa borsa di studio sono ora chiuse.
Puoi anche leggere il nostro articolo correlato sul miglioramento del processo decisionale delle istituzioni chiave. È stato pubblicato per la prima volta nel 2017, prima dell’ascesa dell’IA generativa, quindi non esplora in particolare gli strumenti di IA, ma sostiene in modo più ampio la necessità di migliorare il processo decisionale a livello sociale.
Ringraziamenti
Questo profilo attinge ampiamente dall’articolo di Forethought “Strumenti di IA per la sicurezza esistenziale”.
Molte grazie ad Arden Koehler, Lizka Vaintrob, Niel Bowerman, Max Dalton e Rose Hadshar per il loro contributo.