Introduzione al controllo dell’IA
Il controllo dell’IA è un programma di ricerca che mira a impedire che i sistemi di IA disallineati causino danni. È diverso dall’allineamento dell’IA, che mira a garantire che i sistemi agiscano nel miglior interesse dei propri utenti. In parole povere, le IA allineate non vogliono danneggiare gli esseri umani, mentre le IA controllate non possono danneggiare gli esseri umani, anche se lo volessero.
Perché il controllo dell’IA potrebbe essere utile?
Esistono alcuni motivi per cui la ricerca incentrata sul controllo potrebbe essere utile per la sicurezza dell’IA.
Il controllo dell’IA potrebbe essere più facile dell’allineamento dell’IA
Alcuni ritengono che il controllo dell’IA possa essere più facile dell’allineamento dell’IA, almeno nel breve termine. Una sfida fondamentale nell’allineamento dei sistemi di IA è la possibilità di inganno. I modelli possono dare l’impressione di agire nel nostro interesse durante l’addestramento e la valutazione, ma in realtà potrebbero nascondere secondi fini. Poiché non comprendiamo gran parte di ciò che accade all’interno delle reti neurali, l’inganno potrebbe essere difficile da individuare. Questo potrebbe portarci a impiegare modelli che in realtà stanno tramando contro di noi.
Ma se il nostro obiettivo è semplicemente controllare un modello, piuttosto che allinearlo, non abbiamo bisogno di sapere se voglia farci del male. Dobbiamo solo sapere se può farlo. Ci sono motivi per ritenere che le capacità possano essere più facili da valutare rispetto alle intenzioni. Alcuni ricercatori stanno lavorando a «valutazioni di controllo» che rilevano se un modello che trama sarebbe in grado di eludere le misure progettate per limitarlo.
Il controllo dell’IA potrebbe anche essere un tema su cui è più facile ragionare rispetto all’allineamento dell’IA, poiché presenta un’analogia molto stretta: cercare di impedire ai dipendenti umani di sabotare le attività di un’azienda. Oltre a essere dei prodotti, le IA sono sempre più fonti di manodopera per le aziende di IA. I modelli generano già una percentuale significativa del codice interno e, in futuro, saranno probabilmente utilizzati per automatizzare interamente il processo di miglioramento delle proprie capacità.
Le aziende tecnologiche adottano già un’ampia gamma di misure di sicurezza interne quali il monitoraggio, il controllo degli accessi e la compartimentazione delle informazioni. Alcune di queste sono simili alle misure proposte per il controllo dei sistemi di IA.
Potremmo utilizzare modelli controllati per aiutarci con la sicurezza
Allineare in modo robusto le IA che sono più potenti degli esseri umani è un problema molto difficile per il quale attualmente non disponiamo di soluzioni valide. Un suggerimento comune è quello di automatizzare la ricerca sull’allineamento. Se riuscissimo a controllare modelli di IA più intelligenti degli esseri umani, potremmo sfruttare le loro capacità per aiutarci a compiere progressi sulla sicurezza, senza preoccuparci che questi modelli causino essi stessi una catastrofe.
Esistono altri problemi rilevanti per la sicurezza con cui le IA controllate potrebbero aiutarci, come migliorare la sicurezza dei laboratori o sviluppare metodi per verificare futuri accordi sullo sviluppo dell’IA.
Potremmo utilizzare modelli controllati per aiutarci a dimostrare il rischio
Sebbene molte persone siano preoccupate per i rischi posti da un’IA potente, è stato difficile costruire attorno a essi un consenso sufficiente a innescare forti risposte politiche, poiché tali rischi non si sono ancora concretizzati nel mondo reale. Se avessimo accesso a modelli pericolosi (ma controllati), potremmo essere in grado di osservare tentativi di presa di potere o di fuga che forniscano prove convincenti del pericolo. Ciò potrebbe motivare una regolamentazione più rigorosa dello sviluppo dell’IA o persino un coordinamento internazionale per la mitigazione dei rischi.
Come potremmo controllare le IA?
Il «controllo dell’IA» è un termine ombrello che si riferisce a una serie piuttosto ampia di possibili misure. Ecco alcuni esempi:
Far monitorare un modello potente (non affidabile) da un modello più debole (affidabile)
Man mano che le IA diventano più potenti, i laboratori avranno accesso ad alcuni modelli «affidabili» (quelli di cui siamo certi che non stiano tramando contro di noi, come GPT-4) e ad altri «non affidabili» (questi sono i modelli potenti e potenzialmente pericolosi che potremmo voler controllare).
Immaginiamo di utilizzare un modello non affidabile per generare codice. Idealmente, vorremmo che un essere umano verificasse tutto questo codice per accertarsi che il modello non abbia, ad esempio, cercato di inserire una backdoor — ma ciò richiederebbe molto tempo e sarebbe costoso. Potremmo invece affidare a un modello affidabile il monitoraggio automatizzato del modello non affidabile, segnalando gli output più sospetti affinché vengano esaminati da un essere umano. Potremmo anche far sì che il modello affidabile rilevi e poi modifichi qualsiasi codice sospetto per rimuovere eventuali backdoor (questo processo è chiamato «modifica affidabile»).
In uno studio volto a testare l’efficacia di varie misure di controllo, condotto dall’organizzazione non profit Redwood Research (specializzata in sicurezza), il monitoraggio affidabile ha impedito l’invio di codice contenente backdoor nel 62 % delle esecuzioni di test, mentre la modifica affidabile lo ha fatto nel 92 % delle esecuzioni.
È importante sottolineare che lo studio di Redwood ha utilizzato GPT 3.5 e 4 rispettivamente come modelli affidabili e non affidabili. Questi sono di gran lunga meno potenti dei modelli che potremmo dover controllare in futuro. I tassi di successo emersi dallo studio non sono necessariamente rappresentativi di quelli che potremmo aspettarci per gli utilizzi del monitoraggio affidabile nel mondo reale.
Far sì che i modelli non affidabili si monitorino a vicenda
Un problema evidente del monitoraggio affidabile è che il modello non affidabile, essendo il più intelligente dei due, potrebbe ingannare il modello affidabile. Per ovviare a ciò, potremmo utilizzare due istanze del modello non affidabile affinché si monitorino a vicenda. Tuttavia, potremmo a quel punto temere che i due modelli possano colludere. Ad esempio, il primo modello potrebbe nascondere nel proprio codice un messaggio segreto che ordini al monitor di generare un falso negativo. Esistono alcuni modi per mitigare questo rischio, come mostrare al monitor una versione «ridotta» della descrizione del problema, con alcune informazioni oscurate.
Redwood ha scoperto che il monitoraggio non affidabile ha impedito l’inserimento di backdoor nel 79 % delle esecuzioni di test.
Richiedere l’approvazione umana per le decisioni di grande rilevanza
Proprio come le azioni intraprese dagli esseri umani in qualsiasi azienda richiedono un’approvazione di livello sempre più alto man mano che diventano più rilevanti, le aziende di IA potrebbero limitare le autorizzazioni concesse alle IA.
Naturalmente, oggi molte azioni all’interno delle aziende di IA richiedono probabilmente l’approvazione umana. In questo senso, le aziende stanno già adottando misure che rientrano nella categoria del «controllo». Potremmo temere, tuttavia, che le aziende siano tentate di concedere maggiori autorizzazioni alle IA man mano che la corsa allo sviluppo di IA potenti si fa più accesa e che i modelli diventano più utili per accelerare la ricerca. La ricerca sul controllo potrebbe cercare di identificare metodi per limitare le potenzialità dei modelli senza ostacolarne l’utilità.
Scomporre i compiti in parti più piccole
Supponiamo che un laboratorio voglia affidare a un modello non affidabile l’esecuzione di un compito ad alto rischio e articolato in più fasi. Potremmo temere che il modello saboti il compito in un modo difficile da individuare o prevenire.
Una possibile soluzione sarebbe quella di scomporre il compito in una serie di passaggi e delegare ciascuno di essi a un’istanza separata del modello non affidabile. Successivamente, un modello affidabile potrebbe aggregare le loro soluzioni in un unico piano.
Queste sono solo alcune delle misure che le aziende potrebbero adottare per controllare i sistemi di IA potenzialmente pericolosi. Ce ne sono molte altre. Tuttavia, solo una manciata di esse è stata testata empiricamente e non sappiamo quanto saranno efficaci per modelli molto più potenti di quelli odierni.
Limiti del controllo dell’IA
Purtroppo, il controllo dell’IA è ben lungi dall’essere una soluzione completa ai rischi posti dall’IA. Ecco alcuni motivi:
Anche se un’azienda implementasse misure di controllo, altre potrebbero non farlo
Il controllo dell’IA soffre dello stesso problema di ogni programma proposto per rendere l’IA più sicura: non riduce in modo significativo i rischi a meno che non venga adottato da tutte le aziende di frontiera. Un’azienda potrebbe sviluppare un modello potenzialmente pericoloso e attuare misure di controllo sufficienti a impedirgli di causare danni, ma ciò non impedisce a un’altra di sviluppare un modello altrettanto potente che non è controllato.
Le attuali speranze si basano sul convincere le aziende di IA ad attuare volontariamente misure di controllo. Tuttavia, tali misure sono costose e potrebbero rallentare il progresso. Potrebbe essere necessaria una regolamentazione che imponga misure di controllo affinché queste siano efficaci.
Il controllo è una soluzione temporanea
Le misure di controllo sono progettate per mitigare le minacce provenienti da modelli abbastanza potenti da essere trasformativamente utili, ma non superintelligenti. Non dovremmo aspettarci che possano scalare a sistemi superintelligenti, i quali, quasi per definizione, non saranno controllabili. Ad esempio, molte misure di controllo (come il monitoraggio affidabile) si basano sull’uso di altre IA per monitorare i modelli controllati e segnalare attività sospette per la revisione umana. Ma i modelli superintelligenti potrebbero produrre output troppo complessi per essere valutati dagli esseri umani.
Ciò è riconosciuto da Redwood Research, che ha aperto la strada all’approccio basato sul controllo. L’organizzazione ritiene che potrebbero passare appena 6 mesi tra un’IA trasformativamente utile e un’IA superintelligente, supponendo che non si rallenti lo sviluppo.
Questo è il breve periodo in cui le misure di controllo possono impedire alle IA disallineate di causare danni. Affinché il programma di controllo dia i suoi frutti, in questo periodo dovremo sviluppare programmi di sicurezza tecnica o di governance in grado di mantenerci al sicuro nel lungo termine.
Questi sono due limiti generali del programma di controllo dell’IA. Esistono, ovviamente, molti possibili modi in cui le singole misure potrebbero rivelarsi insufficienti. Ad esempio, potremmo non riuscire a impedire a modelli non affidabili di colludere, oppure un modello potrebbe sabotare le valutazioni di controllo fingendo di essere meno potente di quanto non sia in realtà (un fenomeno ben documentato chiamato «sandbagging»). Sono necessarie ulteriori ricerche per testare empiricamente l’efficacia delle misure di controllo proposte nella pratica.
Un’IA molto potente potrebbe arrivare presto — e non sappiamo ancora come renderla sicura. Il controllo dell’IA è un approccio che potrebbe costituire un tassello del puzzle, ma abbiamo ancora molta strada da fare.
Se ti interessano i potenziali pericoli dell’IA e cosa possiamo fare al riguardo, il nostro Corso sul futuro dell’IA è il punto di partenza perfetto. Ti consentirà di aggiornarti sulla storia recente dell’IA e sui suoi possibili sviluppi futuri in sole 2 ore, senza alcuna conoscenza preliminare richiesta.