Rischio legato all’IA

Un rischio legato all’IA è un rischio catastrofico o esistenziale derivante dalla creazione di un’intelligenza artificiale avanzata (IA).

I rischi legati all’IA sono solitamente suddivisi in rischi legati all’uso improprio dell’IA e rischi legati al disallineamento dell’IA,⁠1 anche se alcuni autori li categorizzano in modo diverso.⁠2

Ulteriori letture

Joseph Carlsmith (2022) Video and transcript of presentation on existential risk from power-seeking AI, Effective Altruism Forum, 7 di maggio.
Una breve presentazione basata su una relazione molto più lunga dell’autore, Is power-seeking AI an existential risk?.

Wei Dai & Daniel Kokotajlo (2019) The main sources of AI risk?, AI Alignment Forum, 21 di marzo.
Un tentativo di elencare tutte le fonti significative di rischio legato all’IA.

Benjamin Todd (s.d.) Prevenire una catastrofe legata all’intelligenza artificiale,.
Una valutazione rigorosa della significatività, trattabilità e trascuratezza della mitigazione dei rischi associati all’IA.

Voci correlate

allineamento dell’IA • governance dell’IA • previsione sull’IA • sicurezza dell’IA