La governance della superintelligenza
È un buon momento per iniziare a riflettere sulla governance della superintelligenza: i futuri sistemi di IA, di gran lunga più potenti persino dell’IAG
Alla luce del quadro attuale, è plausibile che entro i prossimi dieci anni i sistemi di IA superino il livello di competenza degli esperti nella maggior parte dei settori e svolgano un’attività produttiva pari a quella di una delle più grandi aziende odierne.
Sia in termini di potenziali vantaggi sia di svantaggi, la superintelligenza sarà più potente di qualsiasi altra tecnologia con cui l’umanità abbia dovuto confrontarsi in passato. Possiamo avere un futuro notevolmente più prospero, ma per arrivarci dobbiamo gestire il rischio. Data la possibilità di un rischio esistenziale, non possiamo limitarci a reagire. L’energia nucleare è un esempio storico spesso citato di tecnologia con questa caratteristica; la biologia sintetica ne è un altro.
Dobbiamo mitigare anche i rischi legati all’attuale tecnologia di IA, ma la superintelligenza richiederà un trattamento e un coordinamento speciali.
Un punto di partenza
Molte idee sono importanti se vogliamo avere buone probabilità di gestire con successo questo sviluppo; qui esponiamo le nostre riflessioni iniziali su tre di esse.
In primo luogo, abbiamo bisogno di un certo grado di coordinamento tra le principali iniziative di sviluppo per garantire che la superintelligenza venga sviluppata in modo da permetterci sia di mantenere la sicurezza sia di favorire un’integrazione armoniosa di questi sistemi nella società. Ci sono molti modi in cui ciò potrebbe essere attuato: i principali governi di tutto il mondo potrebbero istituire un progetto nel quale far confluire molte delle iniziative attuali, oppure potremmo concordare collettivamente (con il sostegno di una nuova organizzazione, come quella suggerita di seguito) che la crescita delle capacità dell’IA di frontiera non superi un determinato tasso annuo.
E, naturalmente, le singole aziende dovrebbero essere tenute a rispettare standard di responsabilità estremamente elevati.
In secondo luogo, è probabile che alla fine avremo bisogno di qualcosa di simile a un’AIEA per le iniziative legate alla superintelligenza; qualsiasi iniziativa che superi una determinata soglia di capacità (o di risorse come la potenza di calcolo) dovrà essere soggetta a un’autorità internazionale in grado di ispezionare i sistemi, richiedere audit, testare la conformità agli standard di sicurezza, imporre restrizioni sul grado di implementazione e sui livelli di sicurezza, ecc. Monitorare l’utilizzo della potenza di calcolo e dell’energia potrebbe essere di grande aiuto e darci qualche speranza che questa idea sia effettivamente realizzabile. Come primo passo, le aziende potrebbero accordarsi volontariamente per iniziare ad applicare alcuni degli elementi che un’agenzia del genere potrebbe un giorno richiedere; in un secondo momento, i singoli paesi potrebbero attuarli. Sarebbe importante che tale agenzia si concentrasse sulla riduzione del rischio esistenziale e non su questioni che dovrebbero essere lasciate ai singoli paesi, come stabilire che cosa a un’IA sia consentito dire.
In terzo luogo, abbiamo bisogno delle capacità tecniche per rendere sicura una superintelligenza. Si tratta di una questione di ricerca aperta alla quale noi e altri stiamo dedicando molte energie.
Cosa non rientra in questo ambito
Riteniamo importante consentire alle aziende e ai progetti open source di sviluppare modelli al di sotto di una soglia di capacità significativa, senza il tipo di regolamentazione qui descritta (inclusi meccanismi onerosi come licenze o audit).
I sistemi odierni creeranno un valore immenso nel mondo e, sebbene presentino dei rischi, il livello di tali rischi appare paragonabile a quello di altre tecnologie di Internet, e i probabili approcci della società sembrano appropriati.
Al contrario, i sistemi che ci preoccupano avranno un potere superiore a quello di qualsiasi tecnologia creata finora, e dovremmo evitare di disperdere l’attenzione su di essi applicando standard simili a tecnologie ben al di sotto di questa soglia.
Partecipazione pubblica e potenzialità
Tuttavia, la governance dei sistemi più potenti, così come le decisioni relative alla loro implementazione, deve essere soggetta a un forte controllo pubblico. Riteniamo che le persone in tutto il mondo debbano decidere democraticamente i limiti e le impostazioni predefinite dei sistemi di IA. Non sappiamo ancora come progettare un meccanismo del genere, ma intendiamo sperimentare in questa direzione. Continuiamo a ritenere che, all’interno di questi ampi limiti, i singoli utenti debbano avere un grande controllo sul comportamento dell’IA che utilizzano.
Considerati i rischi e le difficoltà, vale la pena chiedersi perché mai stiamo sviluppando questa tecnologia.
Noi di OpenAI abbiamo due ragioni fondamentali. In primo luogo, crediamo che porterà a un mondo molto migliore di quello che possiamo immaginare oggi (ne stiamo già vedendo i primi esempi in settori come l’istruzione, il lavoro creativo e la produttività personale). Il mondo deve affrontare molti problemi che, per essere risolti, richiederanno un aiuto ben maggiore; questa tecnologia può migliorare le nostre società, e la creatività con cui ciascuno userà questi nuovi strumenti non mancherà di stupirci. La crescita economica e l’aumento della qualità della vita saranno sbalorditivi.
In secondo luogo, riteniamo che, per quanto possa sembrare controintuitivo, fermare la creazione della superintelligenza sarebbe rischioso e difficile. Poiché i vantaggi sono così enormi, i costi per costruirla diminuiscono ogni anno, il numero di attori che la stanno sviluppando aumenta rapidamente ed essa è intrinsecamente parte del percorso tecnologico su cui ci troviamo, fermarla richiederebbe qualcosa di simile a un regime di sorveglianza globale, e nemmeno questo funzionerebbe con certezza. Quindi dobbiamo fare le cose nel modo giusto.
Ringraziamenti
Miles Brundage, Jade Leung, Anna Makanju, John Schulman, Helen Toner, Wojciech Zaremba