Un appello per un trattato internazionale sull’IA: una lettera aperta
Ricercatori ed esperti di primo piano chiedono alla comunità internazionale di stipulare un trattato sull’IA in risposta ai rischi potenzialmente catastrofici posti dai sistemi di IA, con l’obiettivo di garantire che l’IA venga sviluppata in modo sicuro e responsabile, per il bene dell’umanità
Chiediamo ai governi di tutto il mondo di rispondere attivamente ai rischi potenzialmente catastrofici che i sistemi di intelligenza artificiale (IA) avanzati rappresentano per l’umanità, tra cui le minacce derivanti dall’uso improprio, i rischi sistemici e la perdita di controllo. Sosteniamo lo sviluppo e la ratifica di un trattato internazionale sull’IA per ridurre tali rischi e garantire che i benefici dell’IA siano accessibili a tutti.
Esperti di spicco, tra cui Geoffrey Hinton, Yoshua Bengio e gli amministratori delegati di OpenAI e Google DeepMind, hanno espresso pubblicamente le loro preoccupazioni riguardo ai rischi catastrofici posti dall’IA, chiedendo che la riduzione di tale rischio sia considerata una priorità globale. Analogamente, gli esperti di IA hanno invocato una pausa nello sviluppo delle capacità dell’IA. Negli ultimi mesi, i leader mondiali hanno richiamato sempre più l’attenzione sulla necessità di garantire che l’IA sia sviluppata in modo sicuro.1 La metà dei ricercatori nel campo dell’IA stima una probabilità superiore al 10 % che l’IA possa portare all’estinzione umana o a un ridimensionamento altrettanto catastrofico del potenziale umano. Riteniamo che la gravità di questi rischi meriti un’attenzione seria e immediata.
Riteniamo che l’obiettivo centrale di un trattato internazionale sull’IA debba essere quello di prevenire l’escalation incontrollata delle capacità dei sistemi di IA, preservandone al contempo i benefici. Per un trattato di questo tipo, suggeriamo i seguenti elementi fondamentali:
- Soglie globali di potenza di calcolo: limiti condivisi a livello internazionale sulla quantità di potenza di calcolo utilizzata per addestrare un qualsiasi modello di IA, con una procedura per abbassarli nel tempo in modo da tenere conto dei miglioramenti algoritmici.
- CERN per la sicurezza dell’IA: un laboratorio collaborativo per la sicurezza dell’IA, simile al CERN, per mettere in comune risorse, competenze e conoscenze al servizio della sicurezza dell’IA e fungere da piattaforma cooperativa per lo sviluppo sicuro dell’IA e la ricerca sulla sicurezza.
- API sicure: consentire l’accesso alle API di modelli di IA sicuri, mantenendone le capacità entro limiti di sicurezza stimati, al fine di disincentivare una pericolosa corsa allo sviluppo dell’IA.
- Commissione di conformità: una commissione internazionale incaricata di monitorare il rispetto del trattato.
È fondamentale sottolineare che l’efficacia e l’impatto di un simile trattato dipendono da un ampio consenso all’interno della comunità internazionale. Nel loro insieme, queste misure promuovono un’esplorazione più sicura dell’immenso potenziale dell’IA, favorendo un approccio cooperativo e incentrato sulla sicurezza alla ricerca e allo sviluppo dell’IA.
Un tale trattato sull’IA potrebbe svolgere un ruolo simile a quello dell’Agenzia internazionale per l’energia atomica (AIEA), istituita per gestire i rischi nucleari e promuovere gli usi pacifici dell’energia nucleare. Allo stesso modo, un trattato sull’IA potrebbe non solo ridurre i rischi derivanti dall’IA, ma anche garantire che i suoi benefici siano accessibili a tutti. Il potenziale dell’IA si spinge ben oltre la nostra attuale comprensione e dovrebbe essere considerato un bene comune. È essenziale che questa straordinaria risorsa vada a vantaggio di tutta l’umanità.
L’umanità ha dato prova di una notevole unità di fronte alle minacce globali, come dimostra la cooperazione internazionale in materia di non proliferazione nucleare. Riteniamo che i rischi posti dai sistemi di IA richiedano almeno altrettanta cautela e coordinamento.
Esortiamo i membri della comunità internazionale a partecipare attivamente alle discussioni relative a un trattato sull’IA e ad adoperarsi per l’attuazione di un solido quadro normativo internazionale. Auspichiamo la formazione di un gruppo di lavoro, dotato di un ampio sostegno internazionale, per elaborare un progetto per tale trattato. Questa responsabilità non poggia solo sulle spalle di pochi, ma sulla forza collettiva della comunità globale. Il nostro futuro è in bilico. Dobbiamo agire ora per garantire che l’IA venga sviluppata in modo sicuro e responsabile, per il bene di tutta l’umanità.
Ulteriori letture citate nella lettera
- Andrea Miotti (2023) We can prevent AI disaster like we prevented nuclear catastrophe, TIME, 22 di settembre (Maggiori dettagli.)
- Lewis Ho et al. (2023) International institutions for advanced AI, 10 di luglio
- Matthijs M. Maas & José Jaime Villalobos (2023) International AI institutions: a literature review of models, examples, and proposals, 1, Institute for Law & AI
- Gary Marcus (2017) Artificial intelligence is stuck. Here’s how to move it forward, The New York Times, 29 di luglio
- Andrea Miotti & Akash Wasil (2023) An international treaty to implement a global compute cap for advanced artificial intelligence, 30 di ottobre
- Tolga Bilge & others (2023) Treaty on artificial intelligence safety and cooperation (TAISC),
Firmatari
La lettera riporta 430 firmatari confermati al momento dell’istantanea archiviata utilizzata per questa importazione. Di seguito è riportato l’elenco completo, nell’ordine mostrato nella pagina originale.
- Yoshua Bengio — Professore / Direttore scientifico, Università di Montreal / Mila, Premio Turing
- Bart Selman — Professore, Cornell University, ex presidente dell’Associazione per il Progresso dell’Intelligenza Artificiale (AAAI)
- Max Tegmark — Professore, Future of Life Institute, MIT Center for Brains, Minds & Machines
- Gary Marcus — Amministratore delegato, Center for the Advancement of Trustworthy AI
- Yi Zeng — Professore, Accademia cinese delle scienze; direttore fondatore del Center for Long-term AI; membro del consiglio del Comitato nazionale di governance sull’IA di nuova generazione in Cina; membro del Gruppo di esperti ad hoc dell’UNESCO sull’etica dell’IA, membro del Gruppo di esperti dell’OMS sull’etica e la governance dell’IA per la salute; direttore fondatore della Rete di cooperazione sull’IA per gli Obiettivi di Sviluppo Sostenibile; direttore fondatore della Rete sull’IA per la difesa e il controllo degli armamenti; Recentemente ha tenuto una presentazione al Consiglio di Sicurezza delle Nazioni Unite sui rischi legati all’IA.
- Victoria Krakovna — Ricercatrice senior presso Google DeepMind, cofondatrice del Future of Life Institute.
- Nell Watson — Presidente dell’Ufficio europeo per un’IA responsabile, membro onorario della BCS, The Chartered Institute for IT (FBCS). Membro dell’Institution of Analysts and Programmers (FIAP). Membro dell’Institute for Innovation and Knowledge Exchange (FIKE). Membro della Royal Society of Arts (FRSA). Membro della Royal Statistical Society (FRSS), membro del Chartered Management Institute (FCMI), membro della Linnaean Society (FLS). Tecnologa etica certificata nel campo delle tecnologie emergenti (CEET). Membro senior dell’Atlantic Council. Membro senior dell’IEEE (SMIEEE)
- Geoffrey Odlum — Presidente, Odlum Global Strategies, diplomatico statunitense di alto livello in pensione; Direttore del Consiglio di Sicurezza Nazionale, Casa Bianca (Affari del G-8, 1998); Direttore dell’Ufficio per gli Affari iracheni, Dipartimento di Stato degli Stati Uniti (2016); Direttore dell’Ufficio per il terrorismo con armi di distruzione di massa, Dipartimento di Stato degli Stati Uniti (2013-2016); Consigliere senior, Dipartimento di Stato degli Stati Uniti, Ufficio per la diplomazia energetica (2017)
- Jaan Tallinn — Cofondatore di Skype, Centre for the Study of Existential Risk, Future of Life Institute
- Claire Boucher — Artista.
- Huw Price — Professore emerito illustre, Università di Bonn; Professore emerito Bertrand Russell e membro emerito del Trinity College, Cambridge. Cofondatore del Centre for the Study of Existential Risk. Direttore accademico del Leverhulme Center for the Future of Intelligence (2016–21).
- Luke Muehlhauser — Responsabile senior dei programmi presso Open Philanthropy; membro del consiglio di amministrazione di Anthropic.
- Daniel Dennett — Professore emerito presso la Tufts University, vincitore del Premio Erasmus (Paesi Bassi), membro dell’American Academy of Arts and Sciences.
- Priyamvada Natarajan — Titolare della cattedra Joseph S. e Sofia S. Fruton di Astronomia e Fisica, Yale University; membro dell’American Academy of Arts and Sciences, dell’American Physical Society e beneficiaria di una borsa di studio Guggenheim.
- Holger Hoos — Titolare della cattedra Alexander von Humboldt di Intelligenza Artificiale, RWTH Aachen University, Leiden University, CLAIRE, ACM, Membro dell’AAAI e dell’EurAI, Presidente del Consiglio di Amministrazione di CLAIRE, Vicepresidente dell’EurAI
- Felicity Reddel — Analista, governance dell’IA, The Future Society
- Toby Ord — Ricercatore senior, Università di Oxford
- Anthony Aguirre — Direttore esecutivo, Future of Life Institute, Professore Faggin di Fisica dell’Informazione, Università della California a Santa Cruz; cofondatore, Metaculus.
- Andrew Critch — Amministratore delegato e ricercatore scientifico, Encultured AI e Università della California, Berkeley.
- Daniel Ziegler — Ricercatore di apprendimento automatico, Alignment Research Center Evaluations; ex ingegnere di ricerca presso OpenAI.
- Ramana Kumar — Indipendente; ex ricercatore scientifico senior presso DeepMind.
- Mary-Anne Williams — Direttrice, UNSW Business AI Lab, UNSW e Università di Stanford, membro dell’AAAI, dell’ATSE e dell’ACS
- The Anh Han — Professore di Informatica e Direttore del Centre for Digital Innovation, Università di Teesside
- Steve Newman — Cofondatore di Writely (Google Docs), fondatore di Scalyr, indipendente.
- Jeffrey Ladish — Direttore esecutivo, Palisade Research.
- Paul Nemitz — Professore/consulente principale, Collegio d’Europa/Commissione europea.
- Balkan Devlen — Direttore del Programma Transatlantico, Macdonald-Laurier Institute.
- Connor Leahy — Amministratore delegato, Conjecture.
- Tristan Harris — Direttore esecutivo, Center for Humane Technology.
- Matthijs Maas — Ricercatore senior, IA e diritto, Legal Priorities Project | CSER, Università di Cambridge.
- Alexis Wellwood — Professoressa associata di Filosofia, Linguistica e Psicologia, Università della California del Sud.
- Robert Braun — Ricercatore senior, Istituto di Studi Avanzati, Vienna.
- Marius Hobbhahn — Amministratore delegato, Apollo Research.
- Katja Grace — Ricercatrice capo, AI Impacts.
- Paul Salmon — Professore di Fattori Umani, Centro per i Fattori Umani e i Sistemi Sociotecnici.
- Cornelius Hacking — Diplomatico (in pensione)
- Malo Bourgon — Amministratore delegato, Machine Intelligence Research Institute
- Mark Brakel — Direttore delle politiche, Future of Life Institute (FLI)
- Marta Krzeminska — Responsabile delle operazioni, Arkose
- Raúl Monroy Borja — Professore di Informatica, Tecnológico de Monterrey, ex presidente della Società messicana per l’IA; ex segretario eletto dell’Accademia messicana di Informatica
- Alfonso Hing Wan Ngan — Professore ordinario di Scienza e Ingegneria dei Materiali, Università di Hong Kong, Membro Internazionale della Royal Academy of Engineering.
- David Manheim — Responsabile della ricerca e delle politiche, Association for Long Term Existence and Resilience, Docente ospite presso il Technion - Israel Institute of Technology.
- Giuseppe De Giacomo — Professore di Informatica, Università di Oxford, membro dell’AAAI, dell’ACM e dell’EurAI, ERA AdG Pi.
- Yves Moreau — Professore, Università di Lovanio, membro della Società Internazionale di Biologia Computazionale.
- Denis Poussart — Laboratorio di Visione Artificiale e Sistemi, ricercatore emerito (in pensione), Università Laval, Canada, membro dell’Accademia Canadese di Ingegneria.
- Tim Holmes — Artista, Body Psalms; difensore del corpo umano, primo artista americano ad esporre al Museo dell’Ermitage.
- Ryan Kidd — Codirettore, ML Alignment & Theory Scholars (MATS).
- Joseph Miller — Ingegnere di ricerca, FAR AI.
- Sören Mindermann — Ricercatore post-dottorato, Mila, Università di Oxford.
- Robi Rahman — Data scientist, Epoch AI e Università di Stanford.
- Fredrik Allenmark — Ricercatore, Università Ludwig Maximilian di Monaco.
- Xiaohu Zhu — Fondatore, Center for Safe AGI
- Azizi Ab Aziz — Professore associato (Intelligenza artificiale sociale), Universiti Utara Malaysia
- Ethne Swartz — Professoressa, Montclair State University.
- Helena Matute — Professoressa, Università di Deusto, Spagna.
- Max Reddel — Ricercatore | Intelligenza Artificiale Avanzata, Centro Internazionale per le Generazioni Future.
- Jaak Tepandi — Professore emerito di Sistemi basati sulla conoscenza, Università di Tecnologia di Tallinn.
- Lyantoniette Chua — Fondatrice e coordinatrice globale, The Ambit.
- Kevin Esvelt — Professore associato, MIT; cofondatore di SecureBio e della Fondazione SecureDNA.
- Mario Gibney — Cofondatore e consulente, AIGS Canada.
- Molly Hickman — Istituto di Ricerca sulle Previsioni.
- Richard Guy Compton — Professore emerito di chimica, Università di Oxford, MAE
- Richard Dazeley — Professore di intelligenza artificiale e apprendimento automatico, Deakin University, cofondatore dell’Australian Responsible Autonomous Agents Collective e membro senior dell’AI Existential Safety Community
- Robert Brandenberger — Professore, Università McGill, FRSC, titolare della cattedra di ricerca canadese, membro dell’APS.
- Moshe Vardi — Professore, Rice University, membro della National Academy of Sciences.
- Richard Middleton — Professore emerito, Università di Newcastle (Australia), FIEEE, FIFAC.
- Linda Linsefors — Coordinatrice della ricerca, AI Safety Camp, dottoressa di ricerca
- Albert R. Efimov — Vicepresidente della ricerca/Responsabile dell’ingegneria cibernetica, Sberbank/MISIS, dottorato in Filosofia dell’IA.
- William Gunn — Direttore della comunicazione, non allineato, cofondatore del Reproducibility Project: Cancer Biology.
- Mike Brooks — Psicologo, autore di: Tech Generation: Raising Balanced Kids in a Hyper-Connected World.
- Jonathan D. Moreno — Professore universitario David e Lyn Silfen, Università della Pennsylvania, Accademia Nazionale di Medicina.
- Geoffrey Miller — Professore associato di psicologia, Università del New Mexico, membro dell’Association for Psychological Science (APS).
- Paul Sas — Fondatore di Motivation Engineers e BayCHI, dottore di ricerca in psicologia sperimentale presso la Stanford University.
- Shirley — Consulente per i diritti umani e consulente politico presso l’Agency for Humanity, sostenitrice dell’intelligenza artificiale.
- David Wood — Presidente dei London Futurists, pioniere dei settori del mobile computing e degli smartphone.
- Zhou Xin — Caporedattore esecutivo, The Yuan, the-yuan.com, Mr.
- Daniel Hulme — Direttore dell’intelligenza artificiale, WPP, dottorato in Intelligenza Artificiale.
- Olle Häggström — Professore di statistica matematica, Università di Tecnologia di Chalmers, membro dell’Accademia Reale Svedese delle Scienze.
- Osinakachi Akuma Kalu — Fondatore e presidente del consiglio di amministrazione di TAFFD’s, autore e relatore vincitore del Fearism Award.
- Kim Solez — Professore di Patologia, Università di Alberta, ideatore della Classificazione di Banff per la patologia dei trapianti https://en.m.wikipedia.org/wiki/Kim_Solez
- James Norris — Fondatore e amministratore delegato di Upgradable, cofondatore di Effective Altruism Global.
- Christopher DiCarlo — Ricercatore senior ed esperto di etica presso Convergence Analysis, Umanista dell’anno in Canada, Miglior docente dell’Ontario, autore di best seller.
- Sebastian Villasante — Professore e ricercatore, Università di Santiago de Compostela, Ricerca d’eccellenza - Trasformazioni, natura e persone.
- Prabhakara Choudary — Professore emerito, Università della California, membro della Royal Society of Chemistry, dell’AAAS, dell’Accademia delle Scienze di Washington e della Fondazione Rockefeller.
- Dušan D. Nešić — Direttore operativo, PIBBSS / Professore di Economia e Finanza, PIBBSS/Rotary/EA/AI Safety Serbia, docente presso l’Università di Finanza ed Economia di Shanghai e l’EmLyon Business School, presidente di un Rotary club in Serbia, rappresentante distrettuale del Rotaract nella Repubblica Popolare Cinese, fondatore di AI Safety Serbia.
- José Manuel Muñoz Vela — Avvocato, docente e ricercatore, Spagna, Dottore in Giurisprudenza (Diritto dell’intelligenza artificiale).
- Ian Watson — Professore, Università di Auckland, IJCAI Distinguished Paper
- David Haussler — Professore, direttore scientifico del Genomics Institute, Università della California, Santa Cruz, membro della NAS e della NAE statunitensi, dell’Accademia Americana delle Arti e delle Scienze. Premi: Allen Newell, Curt Stern, Dan David
- Luigia Carlucci Aiello — In pensione, Professoressa presso l’Università “La Sapienza” di Roma, Membro dell’AAAI e dell’EURAI, Membro dell’EASA.
- Jesús A. Mármol — Direttore di Roboética Consultoria, Dottore in Filosofia presso la Cambridge International University.
- Paul Sas — Fondatore di Motivation Engineers, Dottore di ricerca in Economia comportamentale presso Stanford.
- Rufo Guerreschi — Presidente, Trustless Computing Association.
- Vitezslav Kala — Professore associato di matematica, Università Carlo IV di Praga.
- Manuel Sánchez Miranda — Ricercatore post-dottorato CTEI, Istituto universitario di Ginevra per gli studi internazionali e di sviluppo.
- Michael Symonds — Professore emerito, Facoltà di Medicina, Università di Nottingham.
- Marco Landi — Presidente, Institut Europia.
- Stephen Majercik — Professore emerito, Bowdoin College.
- Joshua Reeves — Professore associato, Oregon State University.
- John Wettlaufer — Professore, Università di Yale e NORDITA
- João Emílio de Almeida — Professore, ISTEC Porto / CITECA / LIACC
- Arul Shankar — Professore associato, Università di Toronto
- Simon Goldstein — Professore associato di Filosofia, Australian Catholic University
- Joe Collman — Responsabile tecnico, ML Alignment & Theory Scholars (MATS)
- Kayleen Manwaring — Ricercatrice senior, UNSW
- David Rein — Ricercatore, NYU
- Ryan Greenblatt — Membro dello staff tecnico, Redwood Research.
- Ernest Davis — Professore di Informatica, New York University.
- Dwight Smith — Analista finanziario senior.
- Andreas Stuhlmüller — Amministratore delegato, Elicit.
- James P. Crutchfield — Professore emerito di Fisica, Università della California, Davis.
- Benjamin Rosman — Professore di Informatica (apprendimento automatico e Robotica), Università di Witwatersrand.
- Shumiao Ouyang — Professore associato di Finanza, Saïd Business School, Università di Oxford
- Paul Henman — Professore di Sociologia digitale e Politica sociale, Università del Queensland
- Odd Erik Gundersen — Responsabile dell’Intelligenza Artificiale/Professore associato, Aneo AS/NTNU
- Nicole Nohemi Mauthe — Coordinatrice della ricerca e della comunità, think tank statunitense
- Noor Awad — Ricercatrice post-dottorato, Università di Friburgo
- Kristian Rönn — Amministratore delegato e cofondatore, Normative.
- Enrikko Sibayan — Studente, Università Ateneo de Manila.
- Maira Elahi — Ricercatrice, Oxford Biosecurity Group.
- Jelle Donders — Fondatore dell’Eindhoven AI Safety Team.
- Rick Vitale — Professore emerito, Università del Connecticut.
- Lucy Farnik — Ricercatrice, Università di Bristol.
- Risto Uuk — Responsabile della ricerca UE, Future of Life Institute.
- Engelbert Mephu Nguifo — Professore, Università di Clermont Auvergne.
- Charles Anderson — Professore / consulente, Colorado State University / Pattern Exploration LLC.
- Tara Behrend — Cattedra John R Butler II, Michigan State University.
- Scott Eastman — Previsore professionista, rischi catastrofici ed esistenziali, Global Artificial Intelligence Alliance (GAIA)
- Victoria Ustimenko — Amministratrice delegata/fondatrice, PRETO BUSINESS Corp.
- Christian Omlin — Professore di intelligenza artificiale, Università di Agder, Norvegia
- Lydia Shelly — Presidente, NSW Council for Civil Liberties.
- Lyse Langlois — Professoressa e Direttrice esecutiva, Osservatorio sugli impatti sociali dell’IA e della tecnologia digitale (OBVIA), Università Laval.
- Joachim Diederich — Professore onorario, Università del Queensland.
- Simon Steshin — Ricercatore nel campo dell’apprendimento automatico.
- Steve Omohundro — Amministratore delegato, Beneficial AI Research.
- Juan Carlos Miguel — Professore, Università dei Paesi Baschi.
- Ansgar Koene — Responsabile globale per l’etica dell’IA e la regolamentazione, EY.
- Esperanza Roman Mendoza — Professoressa, Università George Mason.
- Robert — Presidente, Movimento Federalista Mondiale / Istituto per le Politiche Governative: Gruppo di lavoro transnazionale sull’IA; One World Trust.
- Cyrus Hodes — Copresidente del progetto SAFE, Partenariato Globale sull’IA, cofondatore di AIGC Chain; cofondatore di AI Initiative; cofondatore di Stability AI; esperto presso l’OCSE.aui e GPAI;
- Vahid Nikoofard — Professore, UERJ.
- Pablo Garaizar — Professore associato, Università di Deusto.
- Adam Gleave — Fondatore e amministratore delegato, FAR AI.
- Adam Marblestone — Amministratore delegato, Convergent Research.
- Courtney M. Peterson — Professoressa associata, Università dell’Alabama a Birmingham.
- Otto Barten — Direttore, Osservatorio sui rischi esistenziali.
- Chrisopher DiCarlo — Ricercatore senior ed esperto di etica, Convergence Analysis; Umanista canadese dell’anno (2008); Miglior docente dell’Ontario; autore di best seller; sostenitore del pensiero critico.
- Paul Mikov — Amministratore delegato, Bonsai Pax Corporation.
- Emily Dardaman — Ambasciatrice, Augmented Collective Intelligence, BCG.
- Ozlem Bishop — Responsabile delle informazioni, RPC; onorificenze presidenziali dell’HPU; invito al CERN; borsista del Laszlo Institute New Oaradigm; riconoscimenti extra-accademici nelle arti e nello sport.
- James Gealy — Direttore operativo e responsabile della governance dell’IA negli Stati Uniti, SaferAI.
- Michael Jelly — Amministratore delegato di Magicflow, Amministratore delegato di Omnipilot.
- Charbel-Raphael.
- Eddie Smolyansky — Co-fondatore di Connected Papers, in precedenza responsabile della ricerca sull’IA presso Alibaba Israele.
- Simon Longstaff — Direttore esecutivo presso The Ethics Centre, membro della Royal Society of NSW, membro dell’Australian Risk Policy Institute, membro di CPA Australia, professore a contratto presso l’AGSM dell’UNSW, Ufficiale - dell’Ordine d’Australia (AO)
- Andrea Miotti — Responsabile della strategia e della governance presso Conjecture
- Joep Meindertsma — Amministratore delegato di Ontola.io, fondatore di PauseAI
- Ruben Dieleman — Attivista presso l’Existential Risk Observatory
- Chad Goldthwaite — Fondatore, amministratore delegato, Chief Dreamer & Doer, American Inventions, appassionato e perenne autodidatta.
- Roman Yampolskiy — Professore, Università di Louisville, Distinguished Teaching Professor.
- Arthur Breitman — Creatore di Tezos.
- Lukas Finnveden — Analista di ricerca, Open Philanthropy.
- Connor Axiotes — Responsabile della comunicazione strategica, Conjecture.
- Shota Arimichi — Ingegnere, Conexio.
- Manuel Bimich — Membro del consiglio di amministrazione, EffiSciences.
- Félix Pharand-Deschênes — Direttore, Globaïa.
- Arianna Marchionne — Diritto e IA | Assistente di ricerca, Future of Free Speech
- Ton Veldhuis — Consulente strategico in IA
- Caroline Jeanmaire — Dottoranda in Politiche pubbliche, Università di Oxford, Brilliant Women in etica dell’IA List
- Nate Soares — Presidente, Machine Intelligence Research Institute.
- Lexley Maree Villasis — Studente, ricercatore indipendente in sicurezza dell’IA e governance dell’IA, Università delle Filippine.
- Fin Moorhouse — Ricercatore, Longview Philanthropy.
- Marek Oziewicz — Henry Professor di Letteratura per l’infanzia e per i giovani adulti, Università del Minnesota.
- Greg Taylor — Professore a contratto, Università del New South Wales, Ufficiale dell’Ordine dell’Australia (AO).
- Jonathan Cefalu — Co-fondatore, Preamble, Inc., primo scopritore della vulnerabilità «Prompt Injection» nei modelli linguistici di grandi dimensioni (MLGD).
- Wyatt Tessari L’Allié — Fondatore e direttore esecutivo, AI Governance & Safety Canada
- Peter S. Park — Direttore, StakeOut.AI; ricercatore post-dottorato in sicurezza esistenziale dell’IA, MIT.
- Thomas Larsen — Direttore esecutivo, Center for AI Policy.
- Aidan O’Gara — Ricercatore, Center for AI Safety.
- Jonathan Symons — Docente senior di Politica e Relazioni internazionali, Macquarie University.
- Justin Bullock — Ricercatore senior; Professore associato affiliato, Convergence Analysis; Università di Washington.
- Jacob Tsimerman — Professore di Matematica, Università di Toronto.
- Gregory Randall — Professore, Università della Repubblica, Uruguay.
- Cédric Pradalier — Professore associato di robotica, visione artificiale e apprendimento automatico, Georgia Institute of Technology.
- Domenico Talia — Professore di Ingegneria Informatica, Università della Calabria.
- Simon Friederich — Professore associato di Filosofia della scienza, Università di Groninga.
- Siméon Campos — Imprenditore nel campo della ricerca, cofondatore di SaferAI ed EffiSciences.
- Florian Mai — Ricercatore post-dottorato, KU Leuven.
- Charbel-Raphael Segerie — Responsabile dell’IA, docente presso l’ENS Paris-Saclay, EffiSciences.
- Esben Kran — Condirettore, Apart Research.
- Anette Molvik Nilsen — Coordinatrice di progetto, AI Safety North.
- Norman K Swazo — Professore di Filosofia; Direttore dell’Ufficio Ricerca, North South University.
- Benjamin Avanzi — Professore di Scienze attuariali, Università di Melbourne, PhD, CERA, Attuario SAA, GAICD.
- Roman Hauksson — Ricercatore universitario, sotto la guida di Kellin Pelrine presso l’Università McGill, borsista del National Merit Scholarship Program.
- Ulises Cortés — Professore, Universitat Politècnica de Catalunya, Dottore Honoris Causa dell’Universitat de Girona.
- Pieter Louw — Tirocinante in contabilità, Moore Pretoria, N/A
- Justyna Przeworek — Cittadina impegnata, Master in Neuroscienze Integrative, Università di Edimburgo
- Emerson Spartz — Fondatore di Nonlinear, autore di best seller del New York Times, nella classifica Forbes 30 Under 30
- Eugenio Garcia — Diplomatico tecnologico, Consolato brasiliano a San Francisco (CA), dottorato in Relazioni internazionali, esperto di governance dell’IA
- Briar Prestidge — Amministratrice delegata e fondatrice di Prestidge Group, consulente dell’Interpol.
- Nicky Dries — Professoressa di Comportamento organizzativo alla KU Leuven (Belgio), fondatore di Future of Work K.
- Cornelis Dirk Haupt — Sviluppatore full-stack, Master in Neuroscienze, Laurea in Sistemi cognitivi.
- Emma Jonson — Ricercatrice, CarbonCloud, dottorato di ricerca.
- Sawyer Bernath — Direttore esecutivo, Berkeley Existential Risk Initiative, membro del consiglio di amministrazione di FAR AI e di SecureBio.
- Nathan Helm-Burger — Ricercatore sull’allineamento dell’IA, M.S.
- Soroush Pour — Ricercatore sulla sicurezza dell’IA e amministratore delegato, Harmony Intelligence, borsista Robertson.
- Peter Hase — Dottorando, UNC Chapel Hill, borsista di dottorato Google.
- Kay Tarrant — Manager, Master in Educazione, B.App.Sci.
- Paul Bouchard — amministratore delegato/imprenditore nel settore dei prodotti in legno, liberale classico al 60 %/liberale sociale al 40 %, mi sono fatto strada da solo, pago le tasse, la Luce sulle Tenebre.
- Jeffrey Scott — Consulente, MAN.
- Pieterjan Muller — Imprenditore nel settore del software e dell’IA, relatore principale.
- Tony Carden — Ricercatore in sicurezza dell’IA, PhD.
- Joaquin Alejandro Gamarra Nieto — Insegnante di inglese, Nessuna affiliazione, ha presentato domanda per un lavoro nel campo dell’IA.
- Joaquin Alejandro Gamarra Nieto — Insegnante di inglese, Universidad Cesar Vallejo, ha presentato candidatura per un lavoro nel settore dell’IA.
- Akash Wasil — Governance dell’IA e politiche sull’IA, ricercatore indipendente.
- Tolga Bilge — Super-previsore, Good Judgment Inc.
- Eli Lifland — Co-fondatore, Samotsvety Forecasting
- Jonathan Mann — Architetto di sicurezza informatica; super-previsore, Samotsvety Forecasting.
- Visa Siekkinen — Docente, Università di Scienze Applicate di Vaasa.
- Alexander Lyzhov — Dottorando in informatica, Università di New York.
- Brendan McCane — Professore, Università di Otago.
- Mikhail Samin — Amministratore delegato, audd.io; Fondatore, moratorium.ai.
- Canyu Chen — Dottorando, Istituto di Tecnologia dell’Illinois.
- Liron Shapira — Cittadino impegnato.
- Paloma McClain — Artista.
- Michaël Trazzi — Cittadino impegnato.
- Yanni Kyriacos — Promotore del movimento per la sicurezza dell’IA, AI Safety - Australia & New Zealand.
- Johannes C. Mayer — Cittadino impegnato.
- Wes Gurnee — Dottorando, MIT.
- Kanad Chakrabarti — Dottorando, Goldsmiths College, Università di Londra.
- Isaac Liao — Studente di master, MIT.
- Gabriel Mukobi — Candidato al master in Informatica, Università di Stanford.
- Greg Colbourn — Fondatore, CEEALAR.
- Jason Hausenloy — Ricercatore indipendente in materia di politiche sull’IA - Singapore, ex ricercatore ospite presso l’Università delle Nazioni Unite.
- Dr Barry Devlin — Fondatore.
- Chloe Li — Studentessa, Università di Cambridge.
- Kursad Karatas — Artista, sviluppatore, attivista per un uso corretto dell’IA.
- Scott Emmons — Dottorando, Università della California, Berkeley.
- Henning Duwe — Dottorando, Università RWTH di Aquisgrana
- Severin Field — Ingegnere informatico
- Pablo Baglivo — Data scientist, UBA - Università di Buenos Aires.
- Charlotte Siegmann — Dottoranda, MIT.
- Kabir Kumar — Fondatore e amministratore delegato, AI-Plans.com.
- Tim Bakker — Dottorando in apprendimento automatico, Università di Amsterdam.
- Arun Jose — Ricercatore in allineamento, indipendente.
- Alex Khurgin — Fondatore, Good for Humans.
- Onur Malay — Imprenditore.
- Nick Talati — Sviluppatore software.
- Brett Cooper — Copywriter e consulente per la raccolta fondi.
- Chris Gerrby — Amministratore delegato e fondatore di AI Safety Sweden.
- Dylan Hadfield-Menell — Professore associato, MIT
- Aidan Homewood — Direttore tecnico, Kumo Study
- Arran McCutcheon — Ricercatore indipendente in strategia sull’IA e governance dell’IA
- Jonas Kgomo — Fondatore, Equiano Institute
- Harry Luk — Cofondatore e Direttore operativo, StakeOut.AI
- Edgar Lapins — Docente e formatore di pensiero critico e argomentazione, Stockholm School of Economics di Riga
- Tim Vossen — Sviluppatore software senior
- Matthew Farrugia-Roberts — Assistente di ricerca, Università di Cambridge.
- Jan Michalovic — Sicurezza informatica.
- William Baird — Organizzatore, PauseAI.
- Samuel Broomfield — Data Scientist
- Ori Nagel — Amministratore delegato
- Ainar Miyata — Dottorando, Centro per lo studio delle professioni
- Nathan Metzger — SDET
- George Lee — Studente del master in matematica, Università di Aberystwyth
- Nikola Jurkovic — Studente, Università di Harvard.
- Jakub Bugała — Analista dei dati delle risorse umane.
- Niki Drozdowski — Regista e cittadino impegnato.
- Anthony Bailey — Sviluppatore di software
- Danny Lewis — Pensionato/scrittore, In Medias Res
- Leo Mckee-Reid — Presidente | UVic AI, Università di Victoria
- Ben Norman — Studente
- Jeroen Willems — Creatore di contenuti, A Happier World.
- Karl Berzins — Direttore operativo, FAR AI.
- Stacey Edmonds — Fondatrice.
- Oliver Chamberlain — Studente di laurea magistrale, Pauseai - altruismo efficace
- Max Pixel — Architetto di sistemi, Degrowth Ally
- Antoine de Scorraille — Ingegnere
- Eunhak Kim — Studente di informatica, Western University
- Yawen Duan — Laureato, Università di Cambridge.
- Konrad Friedrich Seifert — Co-amministratore delegato, Simon Institute for Longterm Governance.
- Daniel Popp — Studente, Case Western Reserve University.
- Alvin Dunås — Studente del corso di laurea triennale in matematica, Università di Uppsala.
- George Mastorakos — Ingegnere di intelligenza artificiale, Cortechs.ai.
- Stephen Casper — Dottorando in Informatica, MIT.
- Michael Chen — Ingegnere del software.
- Mihai Truta — Studente, Università Tecnica di Vienna.
- Karl von Wendt — Scrittore (pseudonimo “Karl Olsberg”).
- Erik Byberg — Studente di filosofia, Università di Bergen, AI Safety North.
- Nadia Ashrafi — Consulente politico.
- Satoshi Kurihara — Professore, Università Keio / Centro di Ricerca Avanzata per una Società di Simbiosi Uomo-IA.
- Jan Mircea Truta — Medico.
- Briar Prestidge — Amministratrice delegata di Prestidge Grojp
- Olli Oikarinen — Studente di Informatica, Università di Jyväskylä.
- Siebe Rozendal — Paziente affetto da Long Covid e ricercatore.
- Martin Insulander — Sviluppatore senior.
- Callum Hinchcliffe — Ricercatore.
- Ciprian Florea — Studente, Università di Oxford.
- Olli Järviniemi — Ricercatore indipendente sull’allineamento dell’IA, dottorando.
- Helder S Ribeiro — Ricercatore in IA + HCI.
- Agustín Covarrubias — Presidente dell’Iniziativa studentesca per la sicurezza dell’IA presso l’Università del Cile.
- Mathias Ljungberg — Product owner dei prodotti di IA, Ahlsell.
- Pierre Chaminade — Ingegnere di apprendimento automatico.
- Glen Webster — Vicepresidente esecutivo, Operazioni globali, Klick Health
- Miguelito de Guzman — Ricercatore indipendente, membro del Comitato per un’IA responsabile, Filippine
- Vedang Lad — Studente di master, MIT
- Josh Clancy — Amministratore delegato, Midflip.io
- Lorena Fernández Álvarez — Direttrice della comunicazione digitale, Università di Deusto
- Xavier Roberts-Gaal — Dottorando, Università di Harvard
- Sunhee Kim — Analista di ricerca.
- Simon Andersen — Ricercatore di apprendimento automatico, indipendente.
- Dane Wheaton — Game designer, Netflix.
- Simon Mendelsohn — Ingegnere del software, Broad Institute del MIT e di Harvard.
- Olivia Jimenez — Capo di gabinetto, Center for AI Policy.
- Samuel Hammond — Economista senior, Foundation for American Innovation
- Kanad Chakrabarti — Dottore di ricerca presso Goldsmiths (UoL)
- Michael Einhorn — Ingegnere di ricerca, ML Alignment & Theory Scholars (MATS)
- Alvin Ånestrand — Co-fondatore di AI Safety Gothenburg
- Lukas Jasiunas — Amministratore delegato, ecorbio
- Pablo Stafforini — Direttore, Tlön
- Claire Laurance — Studentessa
- Margaret E. Moore — Pensionata, cittadina impegnata
- Xerxes Dotiwalla — Responsabile di prodotto, Google
- David Kristoffersson — Amministratore delegato, Convergence Analysis
- Peter Slattery — Ricercatore, MIT
- Matthias Georg Mayer — Studente, Università di Bonn.
- Rodric Jenkin — Geriatra in consulenza, NHS.
- Max Winga — Ricercatore universitario, Università dell’Illinois a Urbana-Champaign.
- Jobst Heitzig — Responsabile di laboratorio, Dipartimento di Climatologia, Istituto di Potsdam per la Ricerca sull’Impatto Climatico.
- Robert Elton Johnson, III — Direttore.
- Eva Strautmann — Artista / Autrice.
- Thomas Allen — Ingegnere collaudatore.
- Mati Roy — Responsabile di progetto per i dati umani, OpenAI
- Xander Morgan — Produttore di videogiochi
- Robert J. Tarrant — in pensione
- Marina Manger — Cittadina impegnata, medico di sanità pubblica
- Milton Ponson — Presidente, Fondazione caraibica per la ricerca in ingegneria e scienze applicate.
- Robert de Neufville — Super-previsore, Good Judgment.
- Jacek Komorek — Specialista IT.
- Nadia Molek — Assistente di dottorato, Facoltà di Studi organizzativi.
- Khlyntsov Alexander Sergeevich — Geologo, Kazakistan.
- Shafali Anand — Artista e scrittrice
- John-Clark Levin — Dottorando, Università di Cambridge
- Jeffrey Perrone — Direttore, JPPD
- Michael Thunder Moore — Cameriere, Bloomin Brands
- Tekla Emborg — Studente.
- Libor Behounek — Ricercatore di logica formale, Università di Ostrava.
- William Baird — Direttore, PauseAI UK.
- Stijn Bruers — Ricercatore, KU Leuven.
- Abhishek Deokar — Sviluppatore software, Cummins Inc.
- Anneke de Lange — Consulente di gestione della conoscenza
- David Sérgio da Silva Duarte Mendes — Progettista capo
- Nader Chehab — Ingegnere del software
- Duncan Thomas — Grafico
- Emma Ward — Creativa sui social media
- Zachary Shively — Commesso, Università dell’Idaho
- Zachary Shively — Commesso, Università dell’Idaho
- Inkeri Pääkkö — Designer.
- Piotr Zaborszczyk — Studente, Università Cattolica di Lublino.
- Denys Sheremet — Laurea magistrale in intelligenza artificiale, Università di Amsterdam.
- Joaquin Alejandro Gamarra Nieto — Insegnante di inglese, Nessuna affiliazione.
- Peter Dietzsch — Ingegnere di progettazione digitale.
- Bryce Robertson — Direttore di progetto, Alignment Ecosystem Development.
- Ben Smyth — Studente di laurea triennale in Scienze, Università di Melbourne.
- Claire Ackland — Educatrice.
- Bojan Kahlau — Studente di master.
- Mathieu Bourrier — Responsabile dell’innovazione, Constellation.
- Mathieu Bourrier — Responsabile dell’innovazione, Constellation.
- Joseph Butler — Sviluppatore di videogiochi
- Shantanu Sontakke — Cofondatore e amministratore delegato, AI Apocalypto
- Ryan Mizzen — Autore e scrittore freelance
- Rachael T — Responsabile marketing presso IDaaS
- Anish Mudide — MIT
- Tristan Plumb — Adaptable Research Cooperative
- Andrea La Mantia — Università di Helsinki
- Stephen Fowler
- Michael Huang
- Johan de Kock
- Kayode AdeKoya
- Kerry Vaughan
- Thomas David Burden
- Shona Jeanette Bates
- Tamas Vizmathy
- Bendik Bendiksen
- Patrick Staples
- Ruben Guazzelli
- Dale Edward Provencher
- Patricio Vercesi
- Kevin Carr
- Kim Holder
- Alicia Pollard
- Daniel Drehmer
- Karina Mendoza
- Leilani Vinegas
- Matthew C. Smith
- L Dearden Jones
- Manuela Maria Schauer
- Lena-Luisa Schwab
- Agustín Covarrubias
- Noah Coletti
- Rob Ruana
- Jodi Holder
- Tomás Aguirre
- Leo Major
- Audrey Liu
- Filip Molnár
- Sarah Hastings-Woodhouse
- Oliver Graves
- Ankit Avinash
- Olivier Hacking
- David Tarrant
- Karol Gabanowicz
- Rodrigo Lopez-Pablos
- Bert Schollaert
- Alice Mijlhoff
- Madeleine van Strijp
- Bak Zsolt
- Violette Sacre
- Christopher Hutchins
- Hannah Roesch
- Anne Beccaris
- Alain Beccaris
- Myriam Carratu
- Aleksi Maunu
- Kenneth M Myers
- Ryan Bunge
- Mateusz Baginski
- William Freire
- Bridgett Specht
- Heather Meston
- Mikko Merikivi