Costo di allineamento

Il costo di allineamento (a volte chiamato costo di sicurezza) è il costo aggiuntivo necessario per creare un’IA allineata, rispetto a un’IA non allineata.

Approcci ai costi di allineamento

Paul Christiano distingue due approcci principali per affrontare i costi di allineamento.⁠1 Un approccio cerca di trovare modi per pagare i costi, come persuadere i singoli protagonisti a pagarli o facilitare un tipo di che permetterebbe ai gruppi di pagarla. L’altro approccio cerca di ridurre i costi, facendo avanzare in modo differenziato gli algoritmi allineabili esistenti o rendendo gli algoritmi esistenti più allineabili.