Lista lunga di interventi

BiosicurezzaGovernance dell'IASicurezza delle informazioniSicurezza dell'IA

Questo elenco non vuole essere esaustivo: contiene esempi di interventi per aiutarti a orientarti, senza pretendere di descrivere tutto il lavoro necessario per garantire uno sviluppo positivo dell’IA.

Impedire l’addestramento di sistemi di IA pericolosi

Accelerare i metodi di verifica e rafforzare la volontà politica per un trattato globale sull’IA. Link: uno, due, tre
Governance della computazione: Controllare la produzione e la distribuzione dei chip avanzati, richiedere licenze per le grandi sessioni di addestramento (ad esempio, superiori a 10^27 FLOP) in modo analogo alle licenze per i materiali nucleari.
Monitoraggio internazionale: Istituire ispezioni analoghe a quelle dell’AIEA per i laboratori di IA di frontiera.
Segretezza algoritmica: Classificare le scoperte chiave nell’addestramento come segreti di Stato
IA scienziato: Sviluppare un’IA superintelligente non agente

Limitare le capacità pericolose dell’IA

Filtraggio dei dati di input (anche): Implementare classificatori di sicurezza automatizzati per individuare e rimuovere contenuti dannosi, distorti o avvelenati dai dataset prima che il modello venga addestrato (come i filtri delle politiche sui contenuti per violenza, incitamento all’odio e informazioni personali identificabili)
Allineamento dell’IA: Implementare un’IA costituzionale con specifiche di valore esplicite e apprendimento per rinforzo con feedback umano per garantire che i modelli seguano principi definiti di utilità, innocuità e onestà
Interpretabilità: Comprendere il processo di ragionamento interno dei sistemi di IA e utilizzarlo per individuare comportamenti scorretti o obiettivi indesiderati.
Controllo dell’IA: Mantenere la supervisione umana su un’IA potenzialmente pericolosa utilizzando modelli affidabili per monitorare modelli non affidabili, richiedendo l’approvazione umana per le decisioni con conseguenze rilevanti e altro ancora.
Robustezza: Condurre esercitazioni antagonistiche di red teaming per testare, prima della distribuzione, la resilienza del modello a jailbreak, iniezioni di prompt e tentativi di evasione.
Sicurezza dei pesi del modello: Proteggere i parametri del modello tramite crittografia, calcolo riservato e sistemi di archiviazione con controllo degli accessi per prevenire il furto da parte di avversari (seguendo il framework dei cinque livelli di sicurezza di RAND)

Fronteggiare le azioni pericolose dell’IA

Biosicurezza

Prevenire il paziente zero: Stabilire norme contro la ricerca virologica pericolosa. Innalzare gli standard di sicurezza nei laboratori di livello di biosicurezza 4. Ridurre il contatto tra uomo e animale e le zoonosi limitando l’allevamento animale.
Individuare e contenere le infezioni in fase precoce: Creare un sistema di sorveglianza ambientale dei patogeni in tutti i paesi. Istituire squadre di contenimento rapido (ad es. squadre GERM) per impedirne l’ulteriore diffusione.
Ridurre al minimo i danni a livello di popolazione: Sviluppare candidati vaccinali per tutte le famiglie virali che infettano l’uomo. Potenziare la capacità produttiva dei vaccini. Predisporre procedure per testare l’efficacia di tutti i farmaci noti contro le nuove infezioni. Costituire grandi scorte di DPI per i lavoratori essenziali.

Sicurezza informatica

Sicurezza della memoria: Ridurre il 70% delle vulnerabilità del software causate da errori di memoria, ad esempio tramite la rifattorizzazione delle librerie open source in C e C++ in un linguaggio sicuro per la memoria come Rust.
Red teaming delle infrastrutture nazionali critiche (INC): Spingere i servizi di intelligence governativi a utilizzare i modelli di IA più avanzati per effettuare il red teaming delle INC, segnalare le vulnerabilità in via riservata ai fornitori delle infrastrutture e concedere loro 90 giorni per risolverle prima della divulgazione pubblica.