Tesi della convergenza strumentale
La tesi della convergenza strumentale è la presunta sovrapposizione degli obiettivi strumentali che ci si aspetta siano esibiti da un’ampia classe di sistemi di intelligenza artificiale avanzati, a causa della loro utilità per il raggiungimento di un’ampia gamma di possibili obiettivi finali.
Gli obiettivi strumentali verso cui comunemente ci si aspetta che tutti gli agenti intelligenti convergano sono l’autoconservazione, la preservazione dei propri obiettivi e l’acquisizione di risorse.
Ulteriori letture
Nick Bostrom (2012) The superintelligent will: motivation and instrumental rationality in advanced artificial agents, Minds and Machines, vol. 22, pp. 71–85.
Eliezer Yudkowsky (2013) Five theses, two lemmas, and a couple of strategic implications, Machine Intelligence Research Institute’s Blog, 5 di maggio.