Materiali di lettura del corso «Strategia per l’IAG»

Questa collezione raccoglie i materiali di lettura del corso «AGI Strategy» di BlueDot Impact già disponibili in italiano.⁠⁠1 Il corso offre un’introduzione allo sviluppo dell’IA, ai risultati, buoni e cattivi, che potrebbero verificarsi e alle misure che potremmo adottare per orientarla verso futuri migliori. La collezione verrà ampliata man mano che saranno disponibili nuove traduzioni.

1. Una corsa verso un futuro migliore

Immaginare un futuro migliore

  • Preparativi per il lancio, di Tim Fist, Tao Burga e Tim Hwang

Letture facoltative

  • Macchine di amorevole grazia, di Dario Amodei
  • La dolce singolarità, di Sam Altman
  • Solarpunk: una visione per un futuro sostenibile, di Joshua Krook
  • La turbolenta era dell’IA è arrivata. Le scelte che facciamo ora sono cruciali, di Bill Gates

Orientare la corsa verso l’IAG

  • Alla ricerca di una visione dinamica per un’IA sicura e superumana, di Helen Toner
  • È praticamente impossibile gestire una grande azienda di IA in modo etico, di Sigal Samuel
  • Alla ricerca di stabilità nella competizione per il vantaggio offerto dall’IA, di Rehman, Mueller e Mazarr

Letture facoltative

  • L’era dell’intelligenza, di Sam Altman

2. I motori del progresso dell’IA

Tendenze tecniche che guidano il progresso dell’IA

  • La triade dell’IA e cosa significa per la strategia di sicurezza nazionale, di Ben Buchanan
  • Scalabilità: lo stato dell’arte nell’IA, di Ethan Mollick

Letture facoltative

  • Come sarà l’IA nel 2030?, di David Owen

L’esplosione di intelligenza

  • Il momento più importante della storia è proprio adesso, di Tomas Pueyo
  • La rivoluzione dell’IA: la strada verso la superintelligenza, di Tim Urban
  • Le tempistiche “lunghe” per l’IA avanzata sono diventate incredibilmente brevi, di Helen Toner

Letture facoltative

  • Punti in comune tra AI 2027 e AI intesa come tecnologia tradizionale, di Sayash Kapoor, Arvind Narayanan, Daniel Kokotajlo, Eli Lifland e Thomas Larsen
  • La governance della superintelligenza, di Sam Altman, Greg Brockman e Ilya Sutskever
  • Quando i decenni diventano giorni: dissezione di AI 2027, di Steve Newman
  • Laboratorio contro vita reale: dissezione di “AI intesa come tecnologia tradizionale”, di Steve Newman

Il progresso dell’IA accelererà ancora di più?

  • Dibattiti ancora irrisolti sul futuro dell’IA, di Helen Toner
  • Perché le opinioni divergono riguardo alla data in cui arriverà un’IA potente?, di Sarah Hastings-Woodhouse
  • Punti in comune tra AI 2027 e AI intesa come tecnologia tradizionale, di Sayash Kapoor, Arvind Narayanan, Daniel Kokotajlo, Eli Lifland e Thomas Larsen

3. Percorsi verso il danno

Mappare le minacce

  • Scenari catastrofici legati all’IA, di Ben Eisenpress
  • Riformulazione dei modelli di minaccia dell’IAG, di Richard Ngo
  • L’IA potrebbe sconfiggerci tutti messi insieme, di Holden Karnofsky
  • L’IA sta riaccendendo timori sul bioterrorismo. Qual è il rischio reale?, di Kyle Hiebert
  • Colpi di Stato resi possibili dall’IA: come un piccolo gruppo potrebbe utilizzare l’IA per prendere il potere, di Tom Davidson, Lukas Finnveden e Rose Hadshar

Letture facoltative

  • L’adolescenza della tecnologia, di Dario Amodei

Dare priorità ai percorsi di minaccia

  • La mentalità della sicurezza, di Bruce Schneier

Opzione 1: concentrazione di potere

  • Colpi di Stato resi possibili dall’IA: come un piccolo gruppo potrebbe utilizzare l’IA per prendere il potere, di Tom Davidson, Lukas Finnveden e Rose Hadshar
  • Concentrazione estrema di potere, di Rose Hadshar

Letture facoltative

  • Invito a presentare proposte sulla concentrazione estrema del potere, di Longview Philanthropy

Opzione 2: perdita graduale di potere

  • La maledizione dell’intelligenza, di Luke Drago e Rudolf Laine
  • Sintesi del disempowerment graduale, di Aniket Chakravorty e Dewi Erwan
  • L’IA e il Leviatano: parte I—l’economia istituzionale di un’esplosione di intelligenza, di Samuel Hammond

Opzione 3: pandemie catastrofiche

  • Come l’IA potrebbe rendere possibili pandemie catastrofiche, di Will Saunter
  • L’IA e l’evoluzione dei rischi biologici per la sicurezza nazionale: capacità, soglie e interventi, di Bill Drexel e Caleb Withers
  • Scheda di sistema: Claude Opus 4 e Claude Sonnet 4 (valutazioni CBRN), di Anthropic

Opzione 4: collasso delle infrastrutture critiche

  • Attacchi informatici alle infrastrutture critiche, di Allianz Commercial
  • Come l’IA potrebbe provocare il collasso delle infrastrutture critiche, di Li-Lian Ang
  • Attacco informatico alla rete elettrica: un modello di minaccia informato dall’IA, di Byron Tomes
  • Il futuro del phishing, di CivAI
  • «3CB»: il benchmark delle capacità cibernetiche catastrofiche, di Jonathan Ng, Andrey Anurin, Connor Axiotes ed Esben Kran

4. Difesa in profondità

Livello 1: impedire l’addestramento di IA pericolose

  • Il progetto, di Leopold Aschenbrenner
  • Un appello per un trattato internazionale sull’IA: una lettera aperta, di Tolga Bilge

Livello 2: limitare le capacità pericolose dell’IA

  • Cos’è l’allineamento dell’IA?, di Adam Jones
  • Introduzione al controllo dell’IA, di Sarah Hastings-Woodhouse
  • Un manuale per proteggere i pesi dei modelli di IA, di Sella Nevo, Dan Lahav, Ajay Karpur, Yogev Bar-On, Henry Alexander Bradley e Jeff Alstott

Livello 3: resistere alle azioni pericolose dell’IA

  • d/acc: un anno dopo, di Vitalik Buterin

Letture facoltative

  • La maledizione dell’intelligenza, di Luke Drago e Rudolf Laine

5. Iniziare a contribuire

Scegliere un approccio

  • Mini blog post 3: diventare una persona che fa davvero le cose, di Neel Nanda
  • Lista lunga di interventi, di BlueDot Impact

Approfondire un’area

  • La politica sull’IA nel governo degli USA, di Avital Morris

Consigli facoltativi

  • Consigli di carriera per la sicurezza dell’IAG, di Richard Ngo
  • Ricerca tecnica sulla sicurezza dell’IA, di Benjamin Hilton
1