Ricerca sulla macrostrategia
Riepilogo
In sintesi:
Abbiamo ancora moltissime domande senza risposta su quali siano le maggiori minacce per il futuro dell’umanità, su quali attività avranno l’impatto più significativo nei prossimi decenni e persino su cosa significhi davvero che le cose vadano per il verso giusto. I ricercatori che si occupano di macrostrategia cercano di affrontare interrogativi di questo tipo, esplorando territori nuovi e incerti dove le risposte sono tutt’altro che scontate.
Siamo particolarmente entusiasti della ricerca di macrostrategia che si concentra sul futuro dell’IA. Senza questo tipo di lavoro, rischiamo di non riconoscere per tempo le sfide più importanti poste dallo sviluppo di sistemi di IA avanzati, ma anche di perdere opportunità per favorire la prosperità in un mondo trasformato dalla tecnologia.
Pro:
- Possibilità concreta di contribuire a orientare la traiettoria a lungo termine dell’umanità
- Lavoro estremamente interessante e creativo, alla frontiera di alcune delle questioni più complesse in assoluto
- Molto trascurato: in tutto il mondo ci sono probabilmente solo poche decine di ricercatori che vi si dedicano, quindi uno sforzo aggiuntivo potrebbe fare una grande differenza
Contro:
- Pochissime organizzazioni e posti di lavoro disponibili
- È difficile capire con certezza se si stanno facendo progressi, poiché spesso non è possibile verificare le proprie conclusioni confrontandole con la realtà
- Influenza potenzialmente meno diretta sui decisori rispetto (ad esempio) alle carriere nella governance dell’IA o nella ricerca sulla sicurezza tecnica
Aspetti chiave per essere adatti a questo percorso:
Dovrai eccellere nel condurre ricerca innovativa, sentirti a tuo agio con questioni complesse e mal definite, e riuscire a fare progressi in modo indipendente — spesso senza modelli di riferimento chiari o metodi consolidati. È essenziale anche un’ottima capacità di scrittura. I candidati migliori tendono a essere creativi, dotati di acume analitico e abili nel ragionare in condizioni di incertezza.
Se vuoi dedicarti alla ricerca sulla macrostrategia incentrata sul futuro dell’IA, avrai anche bisogno di una solida comprensione dell’IA e delle sue dinamiche.
Un’esperienza pregressa nella ricerca è molto utile. Tuttavia, anche se hai già ricoperto posizioni di ricerca in passato, ti consigliamo di verificare la tua idoneità per questo tipo di ricerca prima di candidarti per un lavoro — consulta i nostri suggerimenti qui sotto.
Consigliato
Se sei adatto a questa carriera, per te potrebbe essere il modo migliore di avere un impatto sociale.
Stato della revisione
Basato su un’indagine approfondita.a
Che cos’è la ricerca sulla macrostrategia e perché lavorarci?
Il nostro sito web tratta molte delle più grandi sfide al mondo — ma non offre il quadro completo. Questo perché:
- Realisticamente, è impossibile aver già identificato ogni questione o opportunità importante che si presenterà all’umanità.
- Probabilmente non stiamo definendo nel miglior modo possibile le priorità tra gli elementi che abbiamo identificato. Dopotutto, classificare i problemi richiede di esprimere giudizi su questioni profondamente incerte.
- Come società, non abbiamo un’idea concreta di come sarebbe davvero un futuro grandioso — e non siamo nemmeno d’accordo su come valutare quanto siano positivi i diversi esiti. Quindi non sappiamo esattamente a cosa dovremmo puntare.
Alcuni ricercatori stanno cercando di colmare queste lacune esplorando nuove tematiche, proponendo priorità e sviluppando teorie sul futuro a cui dovremmo puntare. Questo insieme di iniziative debolmente connesse è ciò che chiamiamo “ricerca sulla macrostrategia” — anche se (purtroppo!) non esiste un unico termine condiviso per definirlo.
La prospettiva che l’IA avanzata possa trasformare il mondo in modi senza precedenti, e farlo potenzialmente in tempi molto rapidi, implica che i “ricercatori di macrostrategia” potrebbero avere un impatto eccezionalmente ampio. Il loro lavoro potrebbe sia a prevedere e mitigare i rischi più seri associati ai futuri sistemi di IA, sia a evitare di perdere le opportunità che potrebbero permettere all’umanità di prosperare — magari plasmando il modo in cui vivranno tutte le generazioni future.
Oggi, un ricercatore di macrostrategia potrebbe concentrarsi su:
- Delineare come potrebbero svolgersi periodi critici per l’umanità, come un’esplosione di intelligenza — l’AI Futures Project ha svolto molto lavoro in questa direzione.
- Individuare sfide trascurate o emergenti che potrebbero avere un grande impatto sul mondo (per esempio la maledizione dell’intelligenza o come gestire le risorse se la civiltà dovesse espandersi nello spazio).
- Costruire argomentazioni su come assegnare priorità alle questioni e alle opportunità più importanti già individuate (come l’influente articolo del 2013 di Nick Bostrom, in cui si sostiene che dovremmo dare priorità al lavoro sui problemi con implicazioni su scala esistenziale).
- Esplorare cosa potrebbe significare che le cose “vadano bene” o “vadano male” per la civiltà — comprese quali siano le corrette teorie morali per giudicare quanto le cose stiano andando “bene”, se evitare esiti negativi debba davvero essere il nostro obiettivo principale se stiamo cercando di migliorare il futuro, e quali potrebbero essere, concretamente, le caratteristiche di un mondo positivo o negativo.
- Far emergere gli strumenti e i concetti innovativi necessari per guidarci verso un mondo fiorente (come l’idea dello scambio acausale, o di nuove strutture di governance per gli esseri digitali).
Tutti questi filoni di ricerca esplorano territori nuovi e altamente incerti, e di solito sono diversi passaggi lontani da idee immediatamente attuabili o rilevanti a livello politico. Ciò significa che tendono a richiedere una visione d’insieme, un approccio multidisciplinare e un pensiero strategico, oltre alla disponibilità ad affrontare l’ignoto.
Chiaramente, la ricerca sulla macrostrategia può coprire un ampio spettro di temi. (Presenta persino notevoli sovrapposizioni con quella che tradizionalmente veniva chiamata ‘ricerca sulle priorità globali’.) Ma siamo particolarmente desiderosi di vedere persone che si occupano di ricerca sulla macrostrategia relativa al futuro dell’IA.b L’esempio più chiaro che conosciamo in questo ambito è il lavoro svolto da Forethought, un gruppo di ricerca dedicato ad affrontare l’intera gamma di sfide poste dal progresso “esplosivo” dell’IA.
In effetti, sta diventando sempre più difficile fare ricerca seria sulla macrostrategia senza dedicare una certa attenzione all’IA. Il modo in cui si svilupperà il futuro dell’IA — come verrà sviluppata e utilizzata, e i rischi e le opportunità che porterà con sé — potrebbe determinare la risposta a una qualsiasi delle domande precedenti.
Perché dedicarsi alla ricerca sulla macrostrategia?
Ci sono diversi motivi per ritenere che la ricerca sulla macrostrategia possa rappresentare un buon modo per impiegare la propria carriera, se si è adatti a questo lavoro:
- Ha un’influenza comprovata. Infatti, molte delle questioni globali che consideriamo più urgenti sono temi a cui probabilmente le persone non penserebbero se non fosse per i ricercatori che hanno esplorato questioni di più ampio respiro, che cinque o dieci anni fa non venivano considerate immediatamente rilevanti a livello politico. (All’epoca chiamavamo questo lavoro “ricerca sulle priorità globali”). Ad esempio:c
- L’idea che i sistemi di IA possano essere coscienti o meritare considerazione morale è stata introdotta da ricercatori pionieri come Carl Shulman e Nick Bostrom, i quali erano alla ricerca di questioni trascurate di portata potenzialmente enorme. Oggi il “benessere dell’IA” è all’ordine del giorno presso Anthropic e la prospettiva della coscienza dell’IA è presa in considerazione dai ricercatori di altre importanti aziende di IA.
- L’importanza di tenere conto degli interessi di tutte le generazioni future nel confrontare i diversi problemi globali è stata sottolineata per la prima volta dai filosofi Will MacAskill e Toby Ord, che riflettevano su cosa significasse rendere il mondo un posto migliore.
- Il campo del benessere degli animali selvatici è nato perché ricercatori come Yew-Kwang Ng, professore di economia alla Monash University, hanno iniziato a valutare se potesse rappresentare un’opportunità insolitamente grande di avere un impatto rispetto alle aree di lavoro esistenti.
- È davvero trascurato. Probabilmente ci sono solo poche decine di persone che conducono ricerca di macrostrategia dedicata e rilevante per l’IA, nonostante ci siano così tante questioni importanti da affrontare.d Ciò significa che uno sforzo aggiuntivo potrebbe fare una grande differenza.
- È davvero interessante — per la persona giusta! Se ti motiva riflettere profondamente sul mondo, esplorare molte nuove idee e tracciare percorsi in territori incerti, difficilmente potrebbe esserci una carriera più affascinante.
Quali sono gli svantaggi di lavorare sulla macrostrategia?
Potresti avere difficoltà a trovare lavoro
Attualmente ci sono pochissime organizzazioni che si dedicano alla ricerca sulla macrostrategia — e questi team tendono a essere molto piccoli. Segnaliamo le posizioni pertinenti e le opportunità di finanziamento nella nostra bacheca delle offerte di lavoro qui sotto, ma vorremmo ce ne fossero di più da segnalare!
È possibile lavorare in modo indipendente alla ricerca sulla macrostrategia, oppure occuparsi di questioni rilevanti all’interno del mondo accademico. La nostra ipotesi, tuttavia, è che questi non siano spesso i percorsi più efficaci: la mancanza di sostegno istituzionale fa sì che il proprio lavoro non riceva il tipo di feedback (o i percorsi per avere un impatto) che potrebbe ottenere all’interno di un think tank o di un’altra organizzazione dedicata.
Nel complesso, ciò significa che non ci sono molti posti di lavoro — e i datori di lavoro di queste organizzazioni sono molto selettivi.
Potrebbe essere difficile fare progressi
Potresti pensare che sia difficile per la ricerca dedicata alla macrostrategia ottenere risultati molto migliori rispetto alle nostre attuali conoscenze su queste questioni. C’è un’enorme incertezza sulla traiettoria del progresso dell’IA e su come cambierà il mondo, con pochi precedenti storici a cui attingere. Inoltre, i sistemi di IA e le dinamiche sociali o politiche su cui ti troverai spesso a teorizzare non esistono ancora, il che rende difficile verificare se le tue conclusioni rispecchino effettivamente la realtà.
È una preoccupazione legittima. Tuttavia, pur in presenza di questa profonda incertezza, riteniamo che la ricerca sulla macrostrategia dell’IA abbia già avuto effetti positivi sul mondo.
Anche grazie alla ricerca sulla macrostrategia, la comunità che si occupa dei rischi dell’IA ha ampliato la sua attenzione ben oltre il tema originario del disallineamento. Ad esempio, oggi ci sono alcune iniziative volte a impedire che i sistemi di IA vengano utilizzati per progettare pandemie artificiali e per misurare la perdita di potere causata dall’IA all’interno della società. Data la nostra incertezza sui rischi che i sistemi di AI presenteranno effettivamente, questi sviluppi appaiono estremamente preziosi: coprendo più fronti, ci stiamo preparando meglio ad affrontare una più ampia varietà di possibili scenari futuri.
Siamo fiduciosi che un’ulteriore ricerca sulla macrostrategia possa continuare a rafforzare il nostro portafoglio di iniziative sulle questioni globali.
Con il passare del tempo, potrebbe anche diventare più facile fare progressi sulle questioni di macrostrategia, grazie allo sviluppo di sofisticati strumenti di IA per la ricerca e la previsione.
Potrebbe essere difficile influenzare i decisori
Oltre a condurre un’ottima ricerca, devi anche assicurarti che questa abbia conseguenze reali.
Questo potrebbe risultare particolarmente difficile nella ricerca sulla macrostrategia, poiché gli argomenti sono spesso più astratti e non sempre suggeriscono soluzioni politiche immediate.
Rispetto al ruolo di ricercatore di governance dell’IA, sarai probabilmente meno coinvolto nel mondo delle politiche pubbliche. Inoltre, rispetto a chi svolge ricerca sulla sicurezza tecnica presso una grande azienda di IA, avrai meno voce in capitolo su come viene sviluppata la tecnologia.
Detto questo, esistono già alcuni casi in cui governi e aziende di IA che hanno agito sulla base della ricerca sulla macrostrategia,e e ci aspettiamo che ce ne siano altri in futuro.
E “influenzare i decisori” non deve necessariamente significare fornire consulenza diretta ai governi o alle aziende di IA. In qualità di ricercatore di macrostrategia, il tuo lavoro potrebbe potenzialmente attrarre l’ampio gruppo di persone interessate a garantire un futuro positivo per l’IA — inclusi finanziatori, promotori dello sviluppo del settore e fondatori di organizzazioni non profit. Queste persone influenzano le idee e le priorità che alla fine giungono ai decisori, anche se non definiscono direttamente le politiche.
Potrebbe essere meglio concentrarsi su questioni più speculative in un secondo momento
Alcuni dei rischi che i ricercatori hanno già identificato sembrano cominciare a concretizzarsi. Ad esempio, stiamo vedendo i primi segnali di avvertimento che i sistemi di IA potrebbero cercare di sottrarre potere agli esseri umani, esempi di IA utilizzata per eseguire sofisticati attacchi informatici, e conflitti tra aziende e governi su chi abbia il controllo ultimo dell’IA.
Potresti pensare che dovremmo concentrarci prima di tutto sul garantire che l’umanità sopravviva a queste minacce, e solo in seguito iniziare a esplorare nuovi territori. Può sembrare strano porsi domande quali “come possiamo prosperare come società?” quando stiamo ancora cercando di capire come evitare di estinguerci, di creare enormi quantità di sofferenza o di cadere nell’autoritarismo.
C’è anche la possibilità che in futuro sia più facile fare progressi sulle questioni di macrostrategia rispetto a oggi: avremo più informazioni per aiutarci a fare buone previsioni sul futuro dell’IA, e potremmo persino disporre di strumenti di IA molto sofisticati per assisterci nei ragionamenti più complessi.
Il punto è che nessuno sa davvero quali rischi si riveleranno più urgenti, o quale sia la finestra temporale ideale per agire su ciascuna questione. Le sfide su cui ci stiamo concentrando attualmente potrebbero rivelarsi irrilevanti; rischi che ora sembrano speculativi potrebbero presentarsi all’improvviso. (In effetti, parte del ruolo della ricerca sulla macrostrategia è fornirci maggiore chiarezza su ciò che è effettivamente più urgente e importante.) E fare affidamento sull’idea che presto sarà semplice automatizzare questo tipo di ricerca sembra poco saggio, considerato quanto tende a essere irregolare lo sviluppo dell’IA.
E sebbene molte questioni di macrostrategia probabilmente non siano le più urgenti a cui l’umanità debba rispondere, riteniamo comunque che sia un bene che alcune persone guardino lontano. Ha senso adottare un approccio diversificato per prepararsi all’IA avanzata, piuttosto che puntare tutto su un’unica ipotesi e sperare semplicemente di aver fatto la scelta giusta.
Saresti adatto alla ricerca sulla macrostrategia?
Quali competenze e caratteristiche sono necessarie per avere successo?
Ecco le caratteristiche che riteniamo più importanti per essere un ottimo ricercatore di macrostrategia:
- È fondamentale avere un’eccellente capacità di svolgere ricerca originale. Questo significa:
- Avere un ottimo intuito per la ricerca — ovvero, la capacità di individuare quali domande siano effettivamente rilevanti.
- Essere in grado di affrontare questioni complesse e mal definite, formulando valutazioni ragionevoli al riguardo attraverso una varietà di metodi di ricerca. (Scopri di più su come prevedere il tuo successo nella ricerca.)
- Dovrà piacerti dedicare tempo a un lavoro astratto e speculativo, privo di meccanismi di feedback chiari (ovvero, spesso non potrai verificare le tue conclusioni confrontandole con la realtà).
- Poiché questi temi di ricerca non sono stati esplorati da molte persone, non sempre ci saranno ricercatori più esperti a cui rivolgerti per chiedere consiglio. Dovrai quindi avere la determinazione necessaria per perseverare su problemi complessi, lavorando in gran parte in autonomia.
- Per comunicare efficacemente le tue idee di ricerca, dovrai avere ottime capacità di scrittura.
- Per la ricerca sulla macrostrategia incentrata sul futuro dell’IA, avrai bisogno di una solida comprensione dell’IA e delle sue dinamiche.
- Le competenze di analisi quantitativa o di previsione possono essere utili (a seconda del tipo di domande a cui stai cercando di rispondere), ma non sono sempre essenziali.
- I candidati ideali saranno inoltre:
- Altamente creativi, curiosi e aperti a idee insolite.
- Dotati di un’intelligenza analitica fuori dal comune.
- Disposti a cambiare idea di fronte a nuove prove o argomentazioni convincenti.
- Bravi a riconoscere quando sono incerti su qualcosa e a tenere conto di tali incertezze nel trarre conclusioni.
- Fortemente concentrati sul rendere il mondo migliore.
Se non sei ancora pronto a candidarti per una posizione in questo settore, ti consigliamo di verificare prima la tua idoneità per questo tipo di lavoro. Puoi trovare alcune idee qui sotto, oppure approfondire la valutazione dell’idoneità personale.
Quale esperienza è utile?
Non ci sono prerequisiti essenziali per ottenere un lavoro come ricercatore di macrostrategia, a meno che tu non stia cercando di lavorare nel mondo accademico, nel qual caso avrai bisogno di un dottorato di ricerca. Le organizzazioni che assumono per questi ruoli spesso adottano un approccio “non credenzialista” e sono più interessate a verificare se possiedi il profilo di competenze sopra indicato.
Tuttavia, ci sono alcune esperienze che potrebbero dimostrare la tua idoneità. Tra queste rientrano:
- Esperienza di ricerca pregressa — ad esempio, una borsa di ricerca competitiva, studi post-laurea o aver lavorato presso un think tank o un istituto di ricerca (con punti bonus se hai svolto attività di ricerca in un contesto interdisciplinare o sei abituato a lavorare in ambiti speculativi o poco compresi)
- Una comprovata esperienza di scrittura, che si tratti di post su blog, articoli accademici, giornalismo o altro
- Successo accademico — ad esempio, aver frequentato un programma post-laurea di eccellenza in qualsiasi campo
Per quanto riguarda la tua formazione accademica:
- Possedere le caratteristiche che abbiamo descritto sopra è molto più importante di qualsiasi specifico background accademico. Tuttavia, una conoscenza approfondita in una qualsiasi disciplina altamente rilevante — come filosofia, economia, fisica, matematica, relazioni internazionali, scienze politiche, storia o (ovviamente!) l’IA — potrebbe rivelarsi utile.
- Se vuoi dedicarti alla ricerca sulla macrostrategia in ambito accademico:
- In teoria, potresti provare a rispondere a domande di ricerca sulla macrostrategia all’interno di svariate discipline — ma dovrai trovare un supervisore che ti aiuti a sviluppare queste idee insolite, il che può risultare difficile.
- Il punto di accesso più agevole potrebbe essere un dottorato in filosofia, che tende a offrire una discreta flessibilità. Tieni presente che la ricerca accademica può essere un percorso impegnativo.
Percorsi non di ricerca
Non è necessario essere un ricercatore per entrare a far parte di un’organizzazione che si occupa di macrostrategia. Queste organizzazioni hanno spesso bisogno di responsabili della ricerca, personale operativo, specialisti della comunicazione e altro ancora.
Nella nostra serie di recensioni sulle carriere, troverai articoli dedicati alle competenze e alle esperienze necessarie per avere successo in altri ruoli come questi.
Nota: anche se stai cercando ruoli non di ricerca presso organizzazioni che si occupano di macrostrategia, sarà comunque utile avere una certa familiarità con la ricerca che svolgono.
Esempi di persone
Principali organizzazioni
La ricerca in macrostrategia può essere svolta all’interno di contesti istituzionali molto diversi: mondo accademico, organizzazioni di ricerca non profit, think tank, finanziatori e persino team di “preparedness” presso alcune aziende di IA. Tuttavia, in questi ruoli non potrai sempre concentrarti esclusivamente sulla ricerca sulla macrostrategia.
Ecco alcune organizzazioni che conosciamo in cui potresti occuparti di ricerca sulla macrostrategia:
- Forethought (ad oggi questo è l’esempio più chiaro di organizzazione incentrata sulla macrostrategia dell’IA)
- The AI Futures Project — che ha già prodotto ricerche sulla previsione degli sviluppi futuri dell’IA e sta lavorando anche a una visione positiva dell’IAG
- ACS Research, i cui ricercatori esplorano questioni trascurate come la perdita graduale di potere
- Redwood Research — sebbene questa organizzazione si concentri principalmente sul controllo e l’allineamento dei sistemi di IA, i suoi ricercatori hanno pubblicato anche alcuni lavori su questioni di più ampio respiro relative alla strategia di allineamento
- The Center on Long-Term Risk, che attualmente svolge attività di macrostrategia nell’ambito del suo programma di “prontezza strategica”
- Macroscopic Ventures — che svolge attività di ricerca ed eroga finanziamenti su temi quali la concentrazione del potere e la prevenzione degli scenari futuri peggiori
- Longview Philanthropy, in particolare per le sue ricerche a fini di finanziamento sui “futuri migliori”
- Coefficient Giving, in particolare il suo team “Short Timelines Special Projects”
- Coefficient Giving è disponibile a ricevere espressioni di interesse da parte di persone interessate alla ricerca sulla macrostrategia.
- Il Futures Team del Future of Life Institute
- Il team “Speranza Esistenziale” del Foresight Institute
- Rethink Priorities:
- il “Worldview Investigations Team” (anche se il suo lavoro non riguarda principalmente l’IA ed è più vicino alla tradizionale ‘ricerca sulle priorità globali’)
- Il nuovo team di strategia sull’IA di Rethink (che sembra concentrarsi sulla macrostrategia dell’IA, ma non ha ancora pubblicato nulla)
Si noti che molte organizzazioni non usano il termine “macrostrategia” per descrivere il proprio lavoro, poiché non esiste un unico termine condiviso per questo tipo di ricerca!
Prossimi passi
Se sei pronto a candidarti per un lavoro
Nella bacheca delle offerte di lavoro qui sotto puoi trovare alcune organizzazioni e progetti di ricerca pertinenti che stanno assumendo.
Visualizza tutte le opportunità
Oppure, se hai in mente un’idea di progetto, hai già lavorato in questo campo o in un settore correlato e ti entusiasma l’idea di creare qualcosa di nuovo, potresti prendere in considerazione l’idea di fondare una tua organizzazione.
Se necessario, verifica prima la tua idoneità o costruisci il tuo capitale di carriera
Ti consigliamo di iniziare così:
- Leggi molto e sviluppa le tue idee. Ad esempio, prova a formarti un’opinione su come potrebbe svolgersi un’esplosione di intelligenza, su cosa sia più importante azzeccare affinché il futuro dell’IA vada per il meglio, o su dove ritieni che il dibattito attuale presenti delle lacune. Elabora idee per domande di ricerca da approfondire.
- Scrivi qualcosa. Apri un tuo blog o un account Substack, oppure valuta di scrivere su forum dove troverai altri ricercatori di macrostrategia (come l’EA Forum e LessWrong).
- Sperimenta un piccolo progetto. Potresti scegliere una domanda di ricerca e dedicarle 10 o 20 ore per cercare di fare dei progressi. Probabilmente non arriverai a intuizioni rivoluzionarie, ma ti farai un’idea del tipo di pensiero richiesto dalla macrostrategia — e magari ne ricaverai un interessante post per il tuo blog.
- Contatta persone del settore. Chiedi un feedback sulle tue idee di ricerca, sui tuoi elaborati o su qualsiasi piccolo progetto a cui hai lavorato. Puoi trovare suggerimenti su come incontrare persone qui e consigli su come entrare in contatto con loro qui.
Se sei più convinto di voler intraprendere questa strada, potresti prendere in considerazione alcune opzioni che richiedono un impegno maggiore ma che permettono di accumulare capitale di carriera:
- Candidati per una borsa di ricerca. Il percorso Forethought del programma MATS è direttamente incentrato sulla macrostrategia dell’IA. Le borse di ricerca gestite da Constellation, il Future Impact Group e Foresight potrebbero inoltre offrire opportunità di ricerca su argomenti rilevanti riguardanti l’IA, il rischio esistenziale e la costruzione di un futuro prospero. E anche i programmi di ricerca che non sono così direttamente rilevanti per la macrostrategia dell’IA potrebbero comunque aiutarti a sviluppare preziose competenze di ricerca.
- Segui un corso. Ad esempio, per comprendere meglio il panorama strategico dell’IA, ti consigliamo il corso sulla strategia per l’IAG di BlueDot. Se desideri riflettere attentamente su come potrebbe essere un futuro straordinario e su come raggiungerlo, potresti provare un corso di worldbuilding.
Prima di candidarti per posizioni di macrostrategia, potrebbe anche essere utile provare altri ruoli di ricerca relativi al rischio legato all’IA — come quello di ricercatore in governance dell’IA o ricercatore tecnico in sicurezza dell’IA — dove ti occuperai di argomenti di ricerca più concreti e otterrai cicli di feedback migliori sul tuo lavoro.
Se vuoi saperne di più
Esempi di ricerche recenti sulla macrostrategia dell’IA
- Consigliamo di consultare i materiali sul sito web di Forethought, in particolare le ricerche etichettate come “macrostrategy” (è possibile filtrare per argomento in questa pagina). Alcuni esempi:
- Preparing for the intelligence explosion sostiene che dobbiamo prepararci fin da ora per un’ampia gamma di sfide dell’IA trascurate, oltre al disallineamento.
- La serie Better Futures si concentra su come potrebbe essere un futuro post-IAG veramente positivo e su cosa possiamo fare ora per migliorare le nostre possibilità di raggiungerlo.
- La ricerca dell’AI Futures Project, come AI 2027 e il modello aggiornato pubblicato nel dicembre 2025 — entrambi tentativi di tracciare un quadro generale di come potrebbe evolversi lo sviluppo dell’IAG.
- Il lavoro dei ricercatori di ACS Research, come Perdita Graduale di Potere — un altro tentativo di delineare i rischi derivanti dall’IA altamente trascurati.
- Questo post sul blog di Ryan Greenblatt presso Redwood Research che delinea diverse strategie di alto livello per gestire i rischi di disallineamento a seconda del livello di volontà politica esistente.
- Varie pubblicazioni etichettate come “prioritization and macrostrategy” del Center on Long-Term Risk.
- Raccomandiamo inoltre di seguire il lavoro di ricercatori indipendenti come Nick Bostrom, Eric Drexler, Richard Ngo e Joe Carlsmith.
Ricerca influente meno recente sulla macrostrategia
- Nick Bostrom: Superintelligenza, Existential risk prevention as global priority e ‘Considerazioni cruciali e filantropia saggia’, di Nick Bostrom
- Eric Drexler: Reframing superintelligence: Comprehensive AI services as general intelligence e questo intervento sull’allineamento paretotopico degli obiettivi
- Sharing the world with digital minds di Carl Shulman e Nick Bostrom, un esempio dei primi studi su come considerare lo status morale delle menti digitali
- The Most Important Century, una serie di Holden Karnofsky e altri autori
Agende di ricerca e report sui progressi della ricerca
- Questo breve riassunto dell’agenda di ricerca di Forethought, anche se puoi trovare ulteriori informazioni sul sito web di Forethought
- L’agenda di ricerca 2024 del Global Priorities Institute, pubblicata prima della sua chiusura.
- Il rapporto retrospettivo sui contributi di ricerca del Future of Humanity Institute — sebbene anche questo istituto abbia chiuso, gli esempi dei suoi precedenti progetti di ricerca ti daranno un’idea di ciò a cui pensano e su cui si basano oggi i ricercatori di macrostrategia.
Lavorare nella macrostrategia
Episodi del podcast
- Will MacAskill sull’IA che causerà un “secolo in un decennio” — e su come siamo completamente impreparati a questo scenario
- Carl Shulman sull’economia, il governo e la società dopo l’IAG — Parte 1 e Parte 2.