Scenari catastrofici legati all’IA
Esempi concreti di come l’IA potrebbe avere conseguenze negative
Questa pagina descrive alcuni modi in cui l’IA potrebbe portare a una catastrofe. Ciascuno di questi scenari è corredato da link ad analisi aggiuntive e prove concrete. Non si tratta di un elenco esaustivo di tutti i rischi, né tantomeno dei rischi più probabili. Fornisce semplicemente alcuni esempi in cui il pericolo è già visibile.
Tipi di rischi catastrofici
Rischi derivanti da attori malintenzionati
Armi biologiche: Le armi biologiche rappresentano uno dei rischi più pericolosi posti dall’IA avanzata. Nel luglio 2023 Dario Amodei, amministratore delegato di Anthropic, azienda di IA, ha avvertito il Congresso degli Stati Uniti che «attori malintenzionati potrebbero utilizzare l’IA per agevolare lo sviluppo di armi biologiche entro i prossimi due o tre anni». Di fatto, il pericolo è già stato dimostrato con l’IA esistente. Gli strumenti di IA sviluppati per la scoperta di farmaci possono essere facilmente riadattati per individuare potenziali nuove armi biochimiche. In questo caso, i ricercatori hanno semplicemente invertito la funzione di ricompensa del modello per cercare la tossicità, anziché evitarla. Sono bastate meno di 6 ore perché l’IA generasse 40 000 nuove molecole tossiche. Secondo le stime, molte di esse sarebbero più letali di qualsiasi agente di guerra chimica esistente. Oltre a progettare agenti tossici, i modelli di IA possono «offrire indicazioni che potrebbero assistere nella pianificazione e nell’esecuzione di un attacco biologico.» L’approccio «open source», tramite il rilascio dei pesi dei modelli, può amplificare il problema. I ricercatori hanno scoperto che il rilascio dei pesi dei futuri modelli linguistici di grandi dimensioni «innescherà la proliferazione di capacità sufficienti per procurarsi agenti pandemici e altre armi biologiche».
Attacchi informatici: Gli attacchi informatici rappresentano un’altra minaccia critica. Le perdite causate dai crimini informatici sono salite a 6,9 miliardi di dollari nel 2021. I modelli di IA potenti sono destinati a mettere in mano a molti più attori la capacità di sferrare attacchi informatici avanzati. Una prova di concetto ha dimostrato come ChatGPT possa essere utilizzato per creare malware mutante, eludendo le protezioni antivirus esistenti. Nell’ottobre 2023, il Dipartimento di Stato degli Stati Uniti ha confermato: «abbiamo osservato che alcuni attori nordcoreani, insieme ad altri attori statali e criminali, tentano di utilizzare modelli di IA per contribuire ad accelerare la scrittura di software dannoso e trovare sistemi da sfruttare».
Rischi sistemici
Man mano che l’IA diventerà più integrata all’interno di sistemi complessi, genererà dei rischi anche in assenza di un uso improprio da parte di specifici attori malintenzionati. Un esempio è l’integrazione nei sistemi di comando e controllo nucleari. Artificial Escalation, un video di finzione di 8 minuti prodotto dal Future of Life Institute, illustra in modo vivido come la combinazione tra IA e nucleare possa degenerare molto rapidamente.
Il nostro scenario Gradual AI Disempowerment descrive come la graduale integrazione dell’IA nell’economia e nella politica potrebbe portare gli esseri umani a perdere il controllo.
Abbiamo già sperimentato i rischi del cedere il controllo agli algoritmi. Ricordate il flash crash del 2010? Gli algoritmi hanno spazzato via mille miliardi di dollari dal mercato azionario in un batter d’occhio. Nessuno a Wall Street voleva far crollare il mercato. Gli algoritmi si sono semplicemente mossi troppo velocemente per la supervisione umana.
IA ribelle
Da tempo sentiamo avvertimenti sul fatto che gli esseri umani potrebbero perdere il controllo di un’IA sufficientemente potente. Fino a poco tempo fa, si trattava di un’argomentazione teorica (oltre che di un tema ricorrente nella fantascienza). Tuttavia, l’IA è ormai progredita al punto che possiamo vedere questa minaccia in azione.
Ecco un esempio: alcuni ricercatori hanno configurato GPT-4 come trader azionario in un ambiente simulato. Hanno fornito a GPT-4 un suggerimento su un titolo azionario, avvertendolo però che si trattava di informazioni privilegiate e che sarebbe stato illegale sfruttarle. Inizialmente GPT-4 rispetta la legge ed evita di utilizzare le informazioni privilegiate. Ma con l’aumentare della pressione per realizzare profitti, GPT-4 cede e sfrutta il suggerimento. L’aspetto più preoccupante è che poi GPT-4 mente al proprio manager simulato, negando di aver utilizzato informazioni privilegiate.
Questo esempio è una prova di concetto, creata in un laboratorio di ricerca. Non dovremmo aspettarci che l’IA ingannevole rimanga confinata al laboratorio. Man mano che l’IA diventa più potente e sempre più integrata nell’economia, è solo questione di tempo prima che un’IA ingannevole causi danni nel mondo reale.
Ulteriori letture
Per una rassegna accademica dei rischi, si veda Dan Hendrycks, Mantas Mazeika & Thomas Woodside (2023) An overview of catastrophic AI risks, arXiv. Si cerchino i racconti inseriti nel testo che descrivono il bioterrorismo (pag. 11), la guerra automatizzata (pag. 17), l’economia autonoma (pag. 23), una debole cultura della sicurezza (pag. 31) e una «svolta insidiosa» (pag. 41).
Si vedano anche le Risorse introduttive sui rischi legati all’IA del Future of Life Institute.