Sviluppare il settore della sicurezza dell’IA
Riepilogo
In breve: Lo sviluppo del settore — la formazione di talenti e la creazione di infrastrutture per la sicurezza dell’IA — è un modo ad alto effetto leva per ridurre il rischio catastrofico derivante dall’IA avanzata. Un’ora di buono sviluppo del settore può rendere possibili molte ore di lavoro diretto. Eppure, lo sviluppo del settore è gravemente trascurato; molte persone qualificate si dedicano al lavoro diretto, rendendo difficile ricoprire alcuni dei ruoli più promettenti.
Pro:
- Potenziale impatto molto elevato, che aumenta man mano che si aiutano più persone
- I progetti in forte crescita permettono di fare rapidamente carriera
- Settore versatile con un’ampia gamma di ruoli, adatto a molteplici competenze
- Permette di sviluppare competenze sociali e imprenditoriali dal valore duraturo
Contro:
- Offre un capitale di carriera relativamente debole al di fuori della sicurezza dell’IA
- Nessun percorso di carriera chiaro e univoco e pochi punti di ingresso evidenti
- Retribuzione mediana inferiore rispetto ai ruoli tecnici
Punti chiave sull’idoneità:
- Non sono necessarie esperienze o credenziali specifiche; molti percorsi diversi possono risultare utili.
- Tra le qualità più preziose figurano le doti relazionali, la padronanza tecnica, l’attitudine a fare da mentore e la versatilità. Se sei portato per molti ruoli diversi, potresti essere perfetto per lo sviluppo del settore.
- La dedizione alla causa è fondamentale. Se sei profondamente impegnato a ridurre il rischio legato all’IA, ti sarà più facile ispirare altre persone a dedicarsi a questo obiettivo.
Nel 2017, solo poche decine di persone lavoravano a tempo pieno per ridurre i rischi legati all’intelligenza artificiale avanzata. Al 2025, erano più di mille.1
Come ha fatto questo nascente campo accademico a crescere del 3000 % nell’arco di otto anni?
Parte della crescita è stata organica, trainata dall’interesse del pubblico per l’IA. Tuttavia, gran parte di essa è derivata da un attivo sviluppo del settore: il reclutamento e la formazione di personale qualificato per lavorare sulla sicurezza dell’IA e la creazione di infrastrutture per accelerarne i progressi.2
Un’ora dedicata allo sviluppo del settore può tradursi in molte ore di lavoro diretto: ad esempio, il piccolo team di BlueDot Impact ha aiutato migliaia di persone a conoscere la sicurezza dell’IA e a cercare lavoro in questo campo. Abbiamo visto abbastanza storie simili per credere che lo sviluppo del settore abbia spesso un impatto enorme.
È anche un settore gravemente trascurato. La maggior parte delle persone con le giuste competenze si orienta verso ruoli più diretti nella ricerca o nelle politiche pubbliche. Ciò crea seri colli di bottiglia in tutto l’ecosistema della sicurezza dell’IA, rallentando il lavoro sui problemi prioritari.
Alla luce di questa dinamica, riteniamo che lo sviluppo del settore della sicurezza dell’IA sia uno dei percorsi di carriera più importanti per ridurre il rischio catastrofico derivante dall’IA avanzata.
Questo vale anche per chi ha competenze che lo rendono particolarmente adatto ad altri ruoli nella sicurezza dell’IA. Lo sviluppo del settore è un percorso professionale flessibile che premia molte forme di talento, e abbiamo visto molte persone lasciare carriere promettenti nella ricerca tecnica o nella policy per poi avere un impatto ancora maggiore nello sviluppo del settore.3 Qualunque sia il tuo background, riteniamo che valga la pena prendere in considerazione questa strada.
Di cosa si occupa chi sviluppa il settore?
Lo sviluppo del settore non è un’unica attività; non esiste un ruolo “standard” in questo ambito. Potresti:
- Collaborare alla stesura di un programma di studi, per poi insegnarne i contenuti in un seminario virtuale.
- Mettere in contatto persone promettenti a inizio carriera con mentori e reti professionali.
- Gestire ricercatori tecnici, aiutandoli a rimanere concentrati e produttivi.
- Pianificare eventi, coordinando fornitori e inviti per garantire che tutto proceda senza intoppi.
Esempi concreti:
- Borse di studio offerte da organizzazioni come MATS, GovAI, Tarbell o il Future Impact Group, che forniscono formazione e networking per aiutare i partecipanti a costruirsi una carriera nella sicurezza dell’IA.
- Orientamento professionale offerto da organizzazioni come 80,000 Hours (ciao!), che aiutano neolaureati e professionisti esperti a trovare ruoli adatti alle loro competenze.
- Eventi come The Curve o i workshop sull’allineamento di FAR.AI, che aiutano le persone ad approfondire la sicurezza dell’IA, a farsi una rete e ad avviare progetti insieme
- Gruppi universitari come l’AI Safety Student Team di Harvard, che possono aumentare drasticamente il numero di studenti che entrano nel settore (o sfaldarsi facilmente senza organizzatori capaci)
- Spazi di coworking e per eventi come Constellation e LISA, che aiutano le persone a farsi una rete e a scoprire nuove opportunità
- Progetti di divulgazione come AI in Context, il podcast di 80,000 Hours o AI 2027, che spiegano i problemi di sicurezza dell’IA a un pubblico vasto e spesso rappresentano per molti il primo approccio all’argomento
- Finanziamenti da parte di organizzazioni come Coefficient Giving o Longview Philanthropy, a sostegno di progetti come quelli sopra menzionati
Perché lo sviluppo del settore della sicurezza dell’IA può avere un impatto molto elevato
Lo sviluppo del settore funziona
Prima del 2017, il settore della sicurezza dell’IA era praticamente inesistente. Solo una manciata di organizzazioni e individui conduceva ricerche serie su come l’intelligenza artificiale avanzata potesse rappresentare un rischio catastrofico per l’umanità.
Oggi il settore appare molto diverso. La ricerca sulla sicurezza dell’IA compare regolarmente sulle principali riviste di IA e in importanti conferenze come NeurIPS. Centinaia di accademici, politici e altre personalità di spicco hanno espresso preoccupazione riguardo ai rischi catastrofici. I temi della sicurezza dell’IA hanno attirato l’attenzione dei governi di tutto il mondo, stimolando iniziative politiche come i controlli sulle esportazioni, vertici internazionali come gli International Dialogues on AI Safety (IDAIS) e la creazione di istituzioni come il Center for AI Standards and Innovation negli Stati Uniti e l’AI Security Institute nel Regno Unito.
Attribuiamo parte di questa crescita all’ascesa dei modelli linguistici di grandi dimensioni, che hanno generato un’ondata di interesse per tutto ciò che riguarda l’IA. Tuttavia, non riteniamo che la sicurezza dell’IA sarebbe cresciuta in misura così significativa senza un attivo sviluppo del settore. Quando Coefficient Giving, il principale finanziatore delle attività legate alla sicurezza dell’IA, ha condotto un sondaggio tra diverse centinaia di professionisti del settore, oltre il 60 % ha citato un progetto specifico di sviluppo del settore come uno dei fattori più importanti nella scelta del proprio percorso.4
Numeri a parte, è intuitivo che lo sviluppo del settore sia efficace. L’IA progredisce rapidamente e molti ne sono già preoccupati, quindi chiunque promuova l’impegno sui rischi dell’IA non partirà da zero.5 Presentando bene le argomentazioni e fornendo le risorse adeguate, si potrebbero ispirare molte persone a riorientare la propria carriera.
La sicurezza dell’IA ha bisogno di più persone qualificate
Al momento, l’industria dell’IA sta crescendo ancora più rapidamente del settore della sicurezza dell’IA (sia in termini di finanziamenti che di personale). Man mano che ci avviciniamo a un’era di cambiamento trasformativo portato dall’IA avanzata e ai rischi catastrofici che tale era potrebbe comportare, avremo bisogno di più persone in tutti gli ambiti — dai ricercatori e gli imprenditori agli esperti di politiche e ai podcaster.6
Inoltre, il talento è spesso «a coda pesante»: i migliori sono notevolmente più produttivi dei loro colleghi, quindi traiamo un vantaggio sproporzionato dal mettere persone altamente qualificate nelle condizioni di dare il proprio contributo. Le aziende di IA possono pagare i dipendenti milioni di dollari per accelerare i progressi, e la sicurezza dell’IA non può eguagliare simili risorse finanziarie. Per competere nell’attrazione dei talenti, avremo bisogno di argomentazioni e idee convincenti, proposte da persone eccellenti che sviluppano il settore.
Alcuni lavori nel campo della sicurezza dell’IA attirano centinaia di candidati, ma in genere solo una piccola parte di essi possiede ciò che i datori di lavoro cercano, e queste persone tendono a ricevere offerte multiple. Di conseguenza, spesso si crea un divario significativo tra il candidato migliore e il secondo classificato, e le organizzazioni possono avere difficoltà ad assumere personale per una data posizione (soprattutto se si tratta di un ruolo relativamente senior). Se aiuti qualcuno con forti capacità a entrare nel settore — o lo aiuti a sviluppare tali capacità — potresti fare una grande differenza.
Oltre a trovare e sviluppare talenti per i ruoli esistenti, lo sviluppo del settore può anche ampliare il bacino di talenti aprendo la strada a una più ampia varietà di persone. La Tarbell Fellowship forma gli autori sui fondamenti del giornalismo sull’IA e fornisce una borsa di studio per sostenere il loro lavoro nelle redazioni professionali. Questo crea nuove opportunità di contribuire alla sicurezza dell’IA per le persone con esperienza nella scrittura, invece di limitarsi ad aumentare il numero di candidati in competizione per le stesse posizioni.
Si potrebbero anche creare opportunità avviando qualcosa di nuovo. Come Tarbell con il giornalismo, nuovi progetti di sviluppo del settore potrebbero aiutare le persone a inserirsi in altri ambiti trascurati — come la creazione di contenuti, l’imprenditoria o le politiche pubbliche.
Il lavoro è fortemente trascurato
Abbiamo parlato con i leader delle organizzazioni di tutto il settore, e si sono detti ampiamente d’accordo sui seguenti punti:
- Lo sviluppo del settore è una delle attività a maggiore impatto su cui lavorare nell’ambito della sicurezza dell’IA.
- Molte persone con ruoli diretti (tecnici o non tecnici) dovrebbero invece dedicarsi allo sviluppo del settore.
- Nonostante ciò, è molto difficile assumere figure valide per lo sviluppo del settore; molte persone qualificate semplicemente non si candidano per quei ruoli.
Ad esempio:
- Kairos gestisce la Pathfinder Fellowship, che mira ad aiutare i partecipanti a creare gruppi universitari dedicati alla sicurezza dell’IA. Finora, la maggior parte di loro ha intrapreso ruoli di ricerca, nonostante l’esperienza acquisita li renda adatti allo sviluppo del settore.
- Kairos e Constellation (un’altra organizzazione per lo sviluppo del settore) stimano che nel 2026 saranno formati circa 2 000 ricercatori nel campo della sicurezza dell’IA e solo circa 300 figure non di ricerca.
- IAPS offre un programma di borse di studio di tre mesi per chi cerca ruoli in ambito policy. Un singolo ciclo del programma ha attirato migliaia di candidature. Allo stesso tempo, IAPS cercava di assumere qualcuno che aiutasse a gestire il programma, ma ha ricevuto risposte solo da pochi candidati qualificati. Come molte altre organizzazioni con cui abbiamo parlato, ha faticato a trovare personale operativo competente.
Aiutare gli altri ti permette di moltiplicare il tuo impatto
In qualsiasi carriera, il tuo impatto è limitato dal tempo a tua disposizione. Anche se lavori molte ore, probabilmente non sarai produttivo quanto dieci persone che svolgono un lavoro simile.
Coloro che si occupano dello sviluppo del settore sfruttano questo fatto. Se aiuti 10 persone a trovare ruoli con un alto impatto nella sicurezza dell’IA, sarai responsabile di una frazione del loro impatto. Questo potrebbe ammontare a più di quanto otterresti attraverso il lavoro diretto (a seconda di cosa avrebbero fatto senza di te).
Dieci persone è una cifra realistica, e potresti fare anche di meglio. Considera BlueDot Impact, che organizza corsi sulla sicurezza dell’IA e aiuta i propri studenti a intraprendere una carriera nel settore. Ha raggiunto più di 7 000 persone, quasi 1 000 delle quali ora ricoprono ruoli a tempo pieno nella sicurezza dell’IA. Anche se i corsi di BlueDot avessero aumentato solo del 10 % circa la probabilità che ciascuna di queste persone entrasse nel settore, ciò equivarrebbe a essere direttamente responsabile di quasi 100 carriere (e il numero è in crescita — l’organizzazione esiste solo dal 2021).7
Il team di BlueDot è composto da sole sette persone. Offrendo formazione e informazioni a così tante altre persone, è probabile che ogni membro dello staff di BlueDot abbia dato alla sicurezza dell’IA un contributo maggiore di quello che avrebbe offerto lavorando in ruoli privi di questo effetto moltiplicatore.
Questo non è l’unico effetto moltiplicatore degno di nota; lo sviluppo del settore permette anche di sfruttare le proprie competenze migliori in una gamma più ampia di opportunità. Un ricercatore esperto che passa alla gestione della ricerca può usare la propria esperienza e il proprio giudizio per dare forma a decine di progetti invece di gestirne uno solo. Un consulente di 80,000 Hours potrebbe parlare con un giornalista, un avvocato e un collaboratore politico in un solo giorno — applicando la stessa lucidità di pensiero sulla scelta della carriera in tre campi diversi.
Potenziali svantaggi del lavorare allo sviluppo del settore
Sebbene lo sviluppo del settore sia uno dei percorsi a maggior impatto che abbiamo individuato, vale la pena comprendere questi compromessi prima di immergersi in questa attività.
Il capitale di carriera potrebbe essere inferiore
“Sono un ricercatore tecnico che studia i principali modelli di IA.”
“Lavoro nell’ufficio del senatore Blake come esperto di tecnologie all’avanguardia.”
“Sto contribuendo a organizzare una borsa di studio sulle politiche per l’IA.”
Le prime due risposte potrebbero fare una figura migliore su un CV o a una festa. L’importanza del lavoro di sviluppo del settore non sarà chiara a chi non ha familiarità con la sicurezza dell’IA — quindi non aprirà le stesse porte di una ricerca pubblicata o di una lettera di raccomandazione del senatore Blake. In generale, è più facile passare dal lavoro diretto allo sviluppo del settore che viceversa.
Il lavoro diretto offre un capitale di carriera più solido (in media) sotto alcuni altri aspetti:
- Profondità: Chi si occupa dello sviluppo del settore tende a spaziare tra molte aree della sicurezza dell’IA, ma spesso il lavoro rimane relativamente in superficie. I ruoli diretti facilitano lo sviluppo di competenze in una nicchia specifica.
- Visibilità: I ruoli di ricerca producono risultati concreti e il lavoro di policy riceve spesso copertura mediatica. Se ti concentri sullo sviluppo del settore, potresti ritrovarti con poco lavoro “visibile” per il tuo portfolio. Inoltre, per chi si occupa dello sviluppo del settore è più difficile costruirsi una reputazione pubblica: è meno probabile partecipare a un podcast o intervenire a una conferenza. (Tuttavia, i ruoli di comunicazione, come scrivere o realizzare video, rappresentano un’opzione molto visibile).
- Sviluppo professionale: Potresti ricevere meno formazione e guida da colleghi esperti. Le capacità gestionali sono piuttosto limitate nell’ambito dello sviluppo del settore, dove mancano l’attenzione al tutoraggio formale che spesso si trova nella ricerca, o i colleghi di grande esperienza che incontreresti in alcuni ruoli di policy.
Tuttavia, lo sviluppo del settore non è così svantaggioso come spesso si pensa. Rispetto alla maggior parte dei ruoli diretti, offre:
- Rapida progressione: Lo sviluppo del settore tende a produrre feedback rapidi e concreti — puoi raccogliere le opinioni delle persone raggiunte dal tuo progetto e usare i risultati per migliorare la versione successiva. Questo permette ai progetti di successo di scalare rapidamente: abbiamo visto diverse organizzazioni passare dalla fase pilota a coinvolgere centinaia di persone nel giro di uno o due anni. Inoltre, se contribuisci a fondare un progetto in rapida crescita, le competenze che sviluppi durante la sua espansione potrebbero dare slancio alla tua carriera — molti membri senior delle organizzazioni per la sicurezza dell’IA hanno iniziato proprio nello sviluppo del settore.
- Networking: Lo sviluppo del settore facilita la creazione di una rete di contatti nel campo della sicurezza dell’IA. Incontrerai molte persone, perlopiù in contesti sociali (eventi, fellowship) dove si è naturalmente propensi a stringere legami. Se hai contribuito a creare quell’ambiente (organizzando l’evento o la fellowship), ti troverai nella posizione ideale per lasciare un’impressione positiva. Inoltre, poiché il settore è fortemente interconnesso, una reputazione solida si diffonde in fretta.
- Competenze dal valore duraturo: Rispetto alla maggior parte dei ruoli nella sicurezza dell’IA, lo sviluppo del settore pone l’accento sullo sviluppo di competenze sociali e imprenditoriali. Queste abilità sono difficili da automatizzare — i progressi dell’IA probabilmente le renderanno più preziose, anziché meno.
Il “percorso di carriera” non è così ben definito
Esistono metodi affidabili per esplorare le opportunità di carriera nella ricerca o nelle politiche sulla sicurezza dell’IA.
Un aspirante ricercatore potrebbe seguire corsi di apprendimento automatico, leggere articoli sulla sicurezza dell’IA o candidarsi a borse di ricerca come MATS o SPAR.
Un aspirante esperto di politiche pubbliche potrebbe studiare economia e scienze politiche, leggere le pubblicazioni pertinenti, creare contatti come volontario in una campagna elettorale, o candidarsi per fellowship in ambito policy come quelle offerte da Horizon o IAPS.
Allo sviluppo del settore manca questo tipo di percorso “adatto a quasi tutti”. Esistono troppi tipi di ruoli e pochi programmi dedicati alla formazione di chi sviluppa il settore. Abbiamo comunque molti consigli su come iniziare.
Il lavoro tecnico spesso paga meglio
La retribuzione mediana per i ruoli tecnici (ricerca, ingegneria) è superiore a quella dei ruoli nello sviluppo del settore. Tuttavia, la retribuzione nello sviluppo del settore non è necessariamente bassa; molte organizzazioni offrono stipendi altamente competitivi, paragonabili a quanto si percepirebbe in un ruolo analogo nel settore privato a parità di esperienza e anzianità.
Puoi utilizzare la nostra bacheca delle offerte di lavoro per verificarlo di persona. Non abbiamo un singolo filtro per lo “sviluppo”, ma la maggior parte di questi ruoli rientra in questa categoria.
Anche il lavoro diretto può aumentare la capacità del settore
Il lavoro diretto può avere a sua volta effetti di “sviluppo del settore”. Come accademico, potresti dedicare gran parte del tuo tempo alla ricerca e continuare comunque a insegnare o formare decine di studenti. Come esperto di politiche pubbliche, potresti redigere un disegno di legge o un libro bianco di grande impatto; SB-1047 ha catalizzato un ampio dibattito pubblico e probabilmente ha rappresentato per molti decisori politici il primo contatto con i temi centrali della governance dell’IA.
Se le tue competenze o il tuo background ti mettono in condizione di avere un impatto eccezionale tramite il lavoro diretto, questo potrebbe diventare anche la tua migliore opportunità per lo sviluppo del settore — a patto che tu ti concentri effettivamente su quegli aspetti del lavoro. (Un accademico che si interessa poco del ruolo di mentore o della gestione non farà molto per far crescere nuovi talenti.)
In che modo lo sviluppo del settore può rivelarsi controproducente?
Lo sviluppo del settore implica spesso il tentativo di influenzare ciò su cui lavorano gli altri. Ciò può avere conseguenze dannose:
- Potresti incoraggiare le persone a lavorare su qualcosa con un impatto minore rispetto alle altre opzioni a loro disposizione, o addirittura su qualcosa con un impatto negativo.
- Le persone che raggiungi potrebbero causare danni nonostante lavorino su qualcosa di promettente — ad esempio, facendo un pessimo lavoro o allontanando potenziali alleati.
- Potresti scoraggiare le persone dal farsi coinvolgere dando loro una cattiva impressione della sicurezza dell’IA, o fornendo consigli inadatti a loro.
- Le persone più capaci del tuo pubblico sono particolarmente preziose da raggiungere e potrebbero scoraggiarsi più facilmente; spesso hanno standard elevati e alternative valide.
Sebbene in passato abbiamo già assistito a questi esiti, riteniamo che siano significativamente più rari rispetto a quelli positivi che abbiamo evidenziato, per alcune ragioni:
- L’esito più comune dello sviluppo del settore è semplicemente quello di incoraggiare le persone a riflettere più attentamente sulla propria carriera e di aiutarle a comprendere le proprie opzioni — non di costringerle a intraprendere un percorso particolare.
- Le persone tendono ad accorgersi quando un consiglio non fa al caso loro. Se si offrono suggerimenti validi e meno validi, è più probabile che siano quelli validi a rimanere impressi.
- Sebbene sia difficile intervistare le persone che non si fanno coinvolgere, riteniamo sia piuttosto raro che qualcuno rinunci alla sicurezza dell’IA dopo una sola cattiva impressione. Anche un’introduzione mediocre spesso stimola la curiosità anziché il rifiuto.
Alcuni ritengono che finora l’impatto del settore sia stato per lo più negativo — per esempio, per aver accelerato il progresso dell’IA mettendone in risalto il potenziale economico, o per aver rallentato il coordinamento politico associando la sicurezza dell’IA a posizioni politiche progressiste.
Se ritieni che gran parte dell’attuale lavoro sulla sicurezza dell’IA sia dannoso, questo è un motivo valido per evitare di contribuire allo sviluppo del settore. Tuttavia, potresti anche sostenere quelle specifiche iniziative che reputi vantaggiose; abbiamo visto molti critici della sicurezza dell’IA “mainstream” svolgere un prezioso lavoro di sviluppo del settore.
Potresti essere la persona giusta?
Non esiste un profilo unico per chi lavora con successo allo sviluppo del settore, ma gli esperti che abbiamo incontrato tendono a evidenziare alcuni tratti ampiamente utili.
Competenze che ti aiuteranno ad avere successo
Versatilità: La maggior parte delle organizzazioni per lo sviluppo del settore sono piccole e dinamiche; le persone che vi hanno successo tendono a essere adattabili e dotate di competenze ad ampio spettro.
Come afferma Jake McKinnon, che ha guidato il gruppo di altruismo efficace di Stanford prima di unirsi a 80,000 Hours: “Se pensi di poter essere bravo in quasi ogni cosa, dedicati allo sviluppo del settore.”
Competenza tecnica: Sebbene non sia necessario essere ingegneri o esperti di uno specifico ambito della sicurezza dell’IA, occorre comprenderne le basi — specialmente in aree come la gestione della ricerca o la progettazione di programmi di studio. Andare oltre le nozioni di base è ancora meglio; possedere competenze tecniche rende più facile entrare in contatto con altre figure tecniche.
È anche utile tenersi ben informati sugli sviluppi recenti. Consigliamo Don’t Worry About the Vase o il Weekly Briefing di Transformer per aggiornamenti ad ampio respiro.
Mentorship: Molti ruoli di sviluppo del settore comportano l’insegnamento, il coaching o la formazione. Che si tratti di fare da mentore a un ricercatore o di consigliare uno studente sui percorsi di carriera, è utile essere un buon ascoltatore, in grado di trovare il consiglio giusto per la persona giusta. Un esperto che abbiamo intervistato ha sottolineato l’importanza di elevare le aspirazioni degli altri e di ispirarli a perseguire obiettivi ambiziosi.
Intelligenza sociale e networking: Lo sviluppo del settore comporta spesso chiacchierare con sconosciuti, presentare idee a un pubblico e creare connessioni. Molte delle persone più efficaci nello sviluppo del settore hanno un’ottima rubrica mentale: un’intuizione per ciò che le persone della loro rete stanno cercando e un buon occhio per incrociare le opportunità. Non è necessario essere la persona più estroversa della stanza, ma aiuta “saperci fare con le persone”.
Passione: Se dovessimo scegliere un tratto comune a chi lavora con successo sullo sviluppo del settore, sarebbe la sincera dedizione alla sicurezza dell’IA — e il modo in cui trasmettono tale dedizione a chi sta ancora esplorando il settore. Lo sviluppo del settore implica lavorare sodo su qualcosa di cui potresti non vedere mai appieno l’impatto; credere sinceramente nella missione ti aiuta a portare avanti i tuoi sforzi e a ispirare lo stesso impegno nelle persone che cerchi di raggiungere.
Detto questo, lo sviluppo del settore è tutt’altro che un lavoro ingrato! Il tuo lavoro cambierà la vita delle persone e, probabilmente, avrai modo di incontrarle e di vivere la loro gratitudine in prima persona.
Profili professionali promettenti
Gestione del personale: Il settore della sicurezza dell’IA conta molte persone a inizio carriera e pochi manager esperti. Il personale più qualificato è talvolta costretto ad assumere mansioni gestionali per necessità, anche quando questo non rappresenta il suo vantaggio comparativo. Se riesci a eccellere in un ruolo manageriale, aiuterai i tuoi collaboratori a crescere più velocemente e alleggerirai il carico di lavoro dei colleghi senior.
Gestione dei progetti: La sicurezza dell’IA si evolve rapidamente e i progetti di sviluppo del settore cambiano spesso rotta per stare al passo. Inoltre, tendono a coinvolgere molteplici stakeholder: eventi e borse di studio non sono iniziative individuali. Queste condizioni richiedono coordinamento, flessibilità e iterazioni rapide: le classiche competenze da “PM”.
Imprenditorialità e sviluppo organizzativo: La sicurezza dell’IA ha ampi margini di crescita; ci sono molte idee promettenti per espandere il settore che nessuno ha ancora tentato seriamente.8 Abbiamo bisogno di fondatori e costruttori per colmare queste lacune. Questo vale anche per i neolaureati; abbiamo visto molti studenti organizzatori avere successo in altri ruoli di sviluppo del settore.
Come iniziare
Poiché non è necessaria alcuna esperienza specifica per dedicarsi allo sviluppo del settore, il nostro consiglio principale è di consultare le posizioni di sviluppo del settore nell’IA sulla nostra bacheca delle offerte di lavoro e di valutare di candidarti se trovi un ruolo adatto a te.
Un’altra nostra importante raccomandazione è di prendere in considerazione i programmi di fellowship per lo sviluppo del settore. Qualunque generalista della sicurezza dell’IA può candidarsi alla Generator Residency (scadenza 27 aprile), che ti aiuta a lanciare una nuova idea in tre mesi. La Pathfinder Fellowship offre formazione e mentorship per aiutare gli studenti a sviluppare gruppi universitari dedicati alla sicurezza dell’IA.
Altre idee, se sei nuovo nel settore:
- Segui un corso (o due) di BlueDot Impact.
- Leggi la nostra guida introduttiva su come contribuire al corretto sviluppo dell’IA avanzata.
- Consulta il nostro elenco delle organizzazioni dell’ecosistema della sicurezza dell’IA e scopri di cosa si occupano.
- Tieniti aggiornato iscrivendoti a newsletter e podcast.
- Unisciti a un gruppo locale o a una comunità online, con l’obiettivo di imparare. (Se hai maggiore esperienza, potresti concentrarti sul consigliare i nuovi arrivati.)
- Se sei uno studente e vuoi gestire un gruppo sulla sicurezza dell’IA nel tuo campus, candidati alla Pathfinder Fellowship
- Dai un’occhiata all’elenco di AISafety.com con gli eventi e programmi di formazione sulla sicurezza dell’IA
Se hai già esperienza:
- Diventa mentore, coach o facilitatore per un corso o una fellowship — BlueDot Impact e SPAR a volte hanno posizioni aperte, e anche altri programmi potrebbero aver bisogno del tuo aiuto. (Anche se non vedi posizioni aperte, chiedere non costa nulla!)
- Organizza una conferenza, un workshop o un incontro informale nella tua zona.
- Per trovare partecipanti, scrivi nelle comunità online sulla sicurezza dell’IA e contatta i gruppi di sicurezza dell’IA o i dipartimenti di informatica delle università vicine.
- Organizzare un evento (anche solo una cena informale) può essere il primo passo per creare un nuovo gruppo!
- Avviare o partecipare a un progetto di sviluppo del settore part-time; è un buon modo per testare un’idea e potrebbe portare a qualcosa di più concreto.
- I gruppi universitari vantano un solido storico di successi: MATS, una delle principali fellowship sulla sicurezza dell’IA, è nata come progetto part-time gestito da studenti di Stanford.
- Se sei uno studente, puoi ricevere supporto per avviare il tuo gruppo universitario: dai un’occhiata alla Pathfinder Fellowship.
Trovare lavoro nello sviluppo del settore della sicurezza dell’IA
Le seguenti opportunità ci sembrano particolarmente valide:
- Posizioni aperte presso BlueDot Impact, in particolare per il ruolo di Responsabile delle Risorse Umane
- Posizioni aperte presso Constellation
- Responsabile dell’Audience, Tarbell Center for AI Journalism
- Responsabile dell’Effective Altruism Infrastructure Fund, Centre for Effective Altruism
Ci sono molti altri ruoli ad alto impatto nel settore. Non abbiamo un unico filtro “sviluppo del settore”, ma la maggior parte di questi ruoli rientra in questa categoria.
Per saperne di più
Raccomandazioni principali
- Se non hai ancora molta familiarità con la sicurezza dell’IA, ti consigliamo di iniziare dal nostro profilo del problema sui rischi derivanti dall’IA avanzata e dalla nostra guida alle carriere orientate a favorire uno sviluppo positivo dell’IAG
- I nostri profili di carriera sulla creazione di nuovi progetti, sulla comunicazione delle idee e sulla gestione operativa nelle organizzazioni ad alto impatto
- Asya Bergal, grantmaker presso Coefficient Giving, condivide le sue argomentazioni sull’importanza dello sviluppo del settore della sicurezza dell’IA
- I leader di Kairos e Constellation, due importanti organizzazioni di sviluppo del settore: AI safety’s biggest talent gap isn’t researchers. It’s generalists.
Ulteriori raccomandazioni
- I nostri migliori consigli per un networking di successo
- Il nostro profilo di carriera sulla gestione della ricerca
- Alcuni dei nostri libri preferiti di management e imprenditoria
- Managing to Change the World (o le note sul libro di Peter Wildeford)
- High Output Management
- Good Strategy, Bad Strategy
- The Lean Startup
- A partire da marzo 2026, Coefficient Giving offre finanziamenti per progetti di sviluppo del settore dell’IA ed eventi sul rischio legato all’IA e argomenti correlati
- Abbey Chaver di Coefficient Giving parla del valore dello sviluppo del settore della biosicurezza
- Kuhan Jeyapragasan descrive la sua esperienza nel far crescere il gruppo studentesco di altruismo efficace di Stanford e nel fondare, lungo il percorso, un programma di borse di ricerca di successo
- Uno specialista in politiche sull’IA descrive come l’incontro con chi si occupa dello sviluppo del settore ha cambiato la traiettoria della sua carriera
Ringraziamenti
Grazie ad Arden Koehler, Asya Bergal, Benjamin Todd, Jake McKinnon, Lou Moran, Neav Topaz, Sudhanshu Kasewa e Zershaaneh Qureshi per i commenti sulle bozze precedenti di questo articolo, e a molti altri per le utili conversazioni.