Alla ricerca di una visione dinamica per un’intelligenza artificiale AI sicura e sovrumana
Questo post è stato pubblicato anche su AI Frontiers, una nuova piattaforma dedicata al dialogo e al dibattito tra esperti sugli impatti dell’intelligenza artificiale, con il titolo «Stiamo discutendo della sicurezza dell’IA nel modo sbagliato.»
Storicamente, il modo in cui abbiamo gestito con successo processi incerti e in rapida evoluzione è il liberalismo classico.
Non mi aspettavo che un libro del 1998 spiegasse le guerre del 2023-2024 sulla sicurezza dell’IA, ma l’opera di Virginia Postrel, The Future and Its Enemies — che ho recuperato su consiglio di Adam Thierer, esperto libertario di politiche sull’IA — ci riesce sorprendentemente bene.
Il libro di Postrel mi ha aiutata a reinquadrare un problema che mi assillava. Penso che ci sia molto da criticare sulle idee sulla sicurezza dell’IA sulla comunità della sicurezza dell’IA, ma quando finiscono sotto attacco — come è accaduto molto di frequente negli ultimi due anni — le critiche spesso mancano il bersaglio. Un tema ricorrente è quello di dipingere i sostenitori della sicurezza dell’IA come oppositori della tecnologia, il che è totalmente in contrasto con l’ambiente di nerd, early adopter ed entusiasti della rivoluzione industriale che conosco. Un’altra critica ricorrente è che la sicurezza dell’IA rientri in una tradizione più ampia di «safetyisti», che vogliono sradicare dal mondo qualsiasi fonte di assunzione di rischio, al diavolo il rapporto costo-beneficio.1 Ma neanche questa interpretazione regge: la comunità della sicurezza dell’IA, forse per i suoi stretti legami con il mondo dell’altruismo efficace, è estremamente incline a ragionare in termini di valore atteso, scommesse in stile venture capital con una piccola probabilità di un guadagno enorme e simili.
Queste dicotomie — pro-tecnologia contro anti-tecnologia, propensione al rischio contro avversione al rischio — mal si adattano ai dibattiti che si vorrebbero intavolare sulle idee relative alla sicurezza dell’IA. Nel suo libro, Postrel si propone di descrivere una dicotomia diversa, che a mio avviso coglie molto meglio ciò che, nelle idee sulla sicurezza dell’IA, suscita l’ostilità dei critici.
The Future and Its Enemies è un manifesto di ciò che Postrel definisce «dinamismo — un mondo di costante creazione, scoperta e competizione.» La sua antitesi è la «stasi** — un mondo regolamentato e pianificato… [che valorizza] la stabilità e il controllo.»**
Postrel descrive come la contrapposizione tra dinamismo e stasi offra una chiave di lettura più chiara per alcuni dibattiti politici della fine degli anni ‘90 rispetto al tradizionale spettro politico destra-sinistra. In materia di commercio, i liberoscambisti dinamisti si scontrarono con una coalizione stasista preoccupata per le implicazioni del commercio sulla sovranità (a destra) e sulla giustizia sociale (a sinistra). In materia di immigrazione, i dinamisti favorevoli a quote più alte si scontrano con gli stasisti, motivati in alcuni casi dal timore per la crescita demografica, in altri dalla xenofobia.
All’epoca Postrel non poteva saperlo, ma il contrasto tra dinamismo e stasismo è una lente utile anche per interpretare i disaccordi su come affrontare le sfide che ci attendono nel percorso verso un’IA superumana.
Stasismo: alla ricerca dell’«unico modo migliore»
A scanso di equivoci, sarò chiara: non credo che la sicurezza dell’IA sia intrinsecamente stasista. Ritengo però che una parte delle politiche sostenute dalla comunità della sicurezza dell’IA sia piuttosto stasista, e che la comunità nel suo complesso possa avere un’atmosfera stasista.
Cosa intendo con questo? Sentiamo cos’altro dice Postrel sullo stasismo:
Gli stasisti cercano regole specifiche per governare ogni nuova situazione e tenere le cose sotto controllo […] vogliono che le loro regole dettagliate si applichino a tutti.
«[Lo stasista William Greider] si preoccupa che qualcuno debba essere al comando; un colosso del capitalismo globale è fuori controllo e “nessuno è al volante”. Eppure questo solleva la domanda: chi vogliamo davvero al volante dell’economia globale?»2
[Lo stasismo] non ammette tali turbolenze. È centralizzato e inflessibile. Chiede a chi ha idee nuove di giustificarle davanti a consigli e commissioni. Stabilisce regole, dalle norme sulle trasmissioni alle leggi contro il lavoro da casa, che presuppongono che né le tecnologie né i gusti cambieranno.
A mio avviso, queste descrizioni richiamano alla mente una serie di aspetti legati alla sicurezza dell’IA.
Il primo tra questi è probabilmente il saggio sul rischio esistenziale che apprezzo meno in assoluto, The vulnerable world hypothesis. di Nick Bostrom. Si tratta di un saggio filosofico basato su astrazioni ed esperimenti mentali, incentrato sull’idea che l’urna delle possibili invenzioni tecnologiche possa contenere una «pallina nera» in grado di distruggere la civiltà. L’implicazione politica:
Affinché la civiltà abbia una capacità generale di affrontare invenzioni a «pallina nera» di questo tipo, avrebbe bisogno di un sistema di sorveglianza mondiale onnipresente e in tempo reale. In alcuni scenari, un simile sistema dovrebbe essere già operativo prima che la tecnologia venga inventata.
È difficile immaginare qualcosa di più «stasista» — incentrato sulla stabilità e sul controllo — di una sorveglianza mondiale onnipresente e in tempo reale.
Trattandosi di un saggio filosofico scritto da un filosofo, non è chiaro in che misura l’ipotesi del mondo vulnerabile sia intesa come un’esplorazione neutrale dello spazio delle possibilità rispetto a un insieme sincero di prescrizioni. Ma a prescindere dalle intenzioni, si tratta di un testo influente nella comunità del rischio esistenziale, strettamente legata alla comunità della sicurezza dell’IA. Nella mia esperienza, il tono di fondo secondo cui «l’unico modo per affrontare una tecnologia sufficientemente pericolosa è il controllo dall’alto» pervade molte parti (seppur certamente non tutte) della comunità della sicurezza dell’IA.3
Altre manifestazioni delle tendenze stasiste nel mondo della sicurezza dell’IA includono:
- Il presupposto diffuso (e a lungo indiscusso) secondo cui sarebbe meglio avere un minor numero di progetti di punta sull’IA — forse, idealmente, uno solo.4 In questo modo, sarebbe più facile per i progetti principali coordinarsi se si avvicinassero all’IAG e non avessero ancora risolto il problema dell’allineamento. Anche la supervisione esterna, ad esempio tramite la regolamentazione governativa, risulterebbe più semplice se dovesse riguardare solo un numero limitato di organizzazioni.
- Gli sforzi per prevenire l’uso improprio dell’IA concentrandosi sulla non proliferazione, in modo che meno persone abbiano accesso alla tecnologia pericolosa. Ho criticato questo approccio in un precedente post sui buffer di adattamento, in cui non ho nominato esplicitamente il dinamismo di Postrel, ma lo avevo ben presente.
- La breve spinta del 2023 per l’implementazione di un regime di licenze per l’addestramento dei modelli di frontiera. Il documento che ha introdotto questo approccio, Frontier AI regulation, lo proponeva solo come una delle varie opzioni disponibili, ma all’interno di quella parte della comunità delle politiche sull’IA che si concentra sui rischi esistenziali, la concessione di licenze è stata trattata per mesi come la raccomandazione di riferimento.5
- L’abitudine, in alcuni circoli della sicurezza dell’IA, di chiedere quale sia la propria «teoria della vittoria». Si tratta di una pratica meno diffusa rispetto a quella di chiedere la propria p(catastrofe) o le proprie tempistiche, ma comunque piuttosto comune. Lavorare a ritroso partendo da uno stato finale desiderato è un ottimo modo di formulare una strategia. Tuttavia, è un errore fissarsi troppo sul raggiungimento di un unico risultato predeterminato. Per usare le parole di Postrel, spero in un futuro «dinamico e intrinsecamente instabile», fatto di «disordine emergente e complesso». Pensare in termini di stati finali definiti che costituiscano la «vittoria» potrebbe non essere il modo migliore per arrivarci.6
Queste tendenze stasiste non sono presenti in tutte le aree del campo della sicurezza dell’IA, e non sono la prima a criticarle. Nell’ultimo anno o due, la stessa comunità della sicurezza dell’IA ha mostrato un crescente interesse a muoversi in una direzione meno stasista. I rischi derivanti dalla «concentrazione di potere» vengono sempre più spesso inclusi nelle analisi dei vari tipi di rischi esistenziali legati all’IA; riconosco a Daniel Kokotajlo, whistleblower di OpenAI e autore principale di AI 2027, il merito di essere un importante sostenitore di idee in questo ambito.7 Al di fuori della comunità, Jeremy Howard si distingue come una persona che prende sul serio il potenziale potere dell’IA avanzata, ma sostiene che i rischi derivanti dal potere centralizzato siano più gravi di quelli legati a una superintelligenza disallineata. Vi è un crescente consenso sul fatto che cercare di gestire i rischi legati all’IA esercitando un massiccio controllo dall’alto potrebbe finire molto male.
L’IA avanzata come minaccia per un futuro dinamico
Il problema, però, è che criticare le soluzioni della comunità della sicurezza dell’IA non cancella le molte, realissime sfide che dobbiamo affrontare man mano che l’IA continua a progredire. In effetti, mi aspetto che la reazione di molti esperti di sicurezza dell’IA alla sezione precedente sia: «Voglio dire, certo, il dinamismo è ovviamente ciò che vorremmo idealmente, ma il dinamismo non serve a nulla se tutti gli esseri umani sono morti o completamente privi di potere».
Non sono in disaccordo. Penso però che sia illuminante riformulare le sfide della transizione verso un mondo con un’IA avanzata, in modo che, invece di pensare principalmente alla sicurezza, ragioniamo in termini di minacce a un futuro dinamico. Affinché ciò funzioni, dobbiamo rendere esplicito che l’agentività umana è una componente fondamentale del dinamismo. Postrel non ne parla direttamente, ma credo emerga chiaramente dal libro che non celebrerebbe un mondo in cui le aziende più ricche creano, scoprono e competono mentre la maggior parte delle persone non può partecipare. Analogamente, possiamo affermare che un mondo in cui l’IA detta la legge e gli esseri umani sono o morti o privi di potere non costituirebbe un vero dinamismo, anche se esistesse una vivace economia dell’IA basata sull’invenzione e sulla creazione.8
Riflettendo su come l’IA possa minacciare un futuro dinamico, diventa chiaro che prevenire gli scenari peggiori è solo il primo passo. I classici rischi legati all’IA — un uso improprio catastrofico, un disallineamento catastrofico — potrebbero davvero segnare la fine del dinamismo, e dobbiamo quindi affrontarli. Ma se lo facciamo concentrando massicciamente il potere, non potremo dire di aver avuto successo. Affinché il futuro vada davvero per il meglio, dovremo trovare la strada verso un nuovo equilibrio che consenta la sperimentazione decentralizzata, l’adattamento spontaneo, la creatività e l’assunzione di rischi. Forse questo nuovo equilibrio assomiglierà al nostro attuale sistema di Stati-nazione liberaldemocratici con confini sovrani e mercati relativamente liberi; più probabilmente, sarà diverso dal nostro sistema attuale quanto lo è il mondo di oggi dal feudalesimo.
Forse puntare al «dinamismo» non è molto diverso dal puntare ad altri ideali rassicuranti come «prosperità umana» o «democrazia». Tuttavia, ho trovato il concetto di Postrel un modo utile per affrontare alcune di queste stesse idee da una prospettiva nuova e con maggiore specificità riguardo agli svantaggi e ai compromessi in gioco (ad esempio, il fatto che la decentralizzazione comporti disordine, o che l’assunzione di rischi implichi fallimenti), invece di limitarsi a una connotazione puramente positiva.
Dinamismo: un «futuro aperto»
Questa è la parte del saggio in cui credo di dover proporre delle soluzioni. In realtà non ne ho.
Lo scrivo comunque perché spero che questa sia una prospettiva produttiva attraverso la quale possiamo venire a capo di tutto questo insieme. Il dibattito sulla sicurezza dell’IA si è già spostato in qualche modo in questa direzione, cosa che mi ha fatto piacere constatare.
Postrel descrive effettivamente cinque caratteristiche delle «regole dinamiste»:
In sintesi, le regole dinamiste:
Consentono agli individui (compresi i gruppi di individui) di agire sulla base delle proprie conoscenze.
Si applicano a unità semplici e generiche e consentono loro di combinarsi in molti modi diversi.
Consentono impegni credibili, comprensibili, duraturi e vincolanti.
Tutelano la critica, la concorrenza e il feedback.
Stabiliscono un quadro di riferimento all’interno del quale le persone possano creare quadri di regole più specifiche, annidati e in competizione fra loro.
Vedo alcune sovrapposizioni con idee già esistenti nelle politiche sull’IA:
-
La trasparenza, la raccomandazione di consenso preferita di tutti, si inserisce bene in una visione del mondo dinamista. Contribuisce al punto n. 1 di Postrel (garantire agli individui l’accesso a informazioni migliori in base alle quali poter agire come meglio credono), al n. 3 (agevolare l’assunzione di impegni) e al n. 4 (facilitare la critica e il feedback). Lo stesso vale per le tutele dei whistleblower.
-
Anche il sostegno allo sviluppo di un ecosistema di audit di terze parti si inserisce in quest’ottica: contribuisce a creare e far rispettare impegni credibili, in linea con il punto n. 3, e potrebbe essere considerato una sorta di quadro annidabile, in linea con il punto n. 5.
-
Il valore dei modelli aperti nel promuovere l’uso, la sperimentazione e la ricerca decentralizzati è evidente da una prospettiva dinamista ed è in linea con i punti 1 e 4. (Ritengo che dovrebbe esserci un certo attrito precauzionale prima di rilasciare apertamente i modelli di frontiera, ma si tratta di un’eccezione limitata rispetto al valore più ampio delle risorse di IA open source.)
Un’altra valida opzione è lo sviluppo tecnologico differenziale, noto anche come accelerazionismo difensivo — lo sviluppo proattivo di tecnologie che aiutano a gestire le sfide poste da altre tecnologie — anche se non riesco a ricollegarlo facilmente alle cinque caratteristiche di Postrel. Sarei felice di conoscere le idee dei lettori su altre direzioni produttive da perseguire.
Lo scopo di questo post, tuttavia, non è quello di proporre soluzioni specifiche. Lo scopo è rendere più facile tenere insieme le due cose seguenti.
È vero che alcune delle prescrizioni politiche della comunità della sicurezza dell’IA — e alcune delle sue atmosfere — sono ciò che Postrel definirebbe «stasiste», poiché privilegiano il controllo e la stabilità a scapito della libertà, dell’esplorazione e dell’adattamento decentralizzato propri del dinamismo.
Ma è anche vero che la creazione di un’IA superumana comporta molte altre minacce per un futuro dinamista, compresi il rischio che gli umani utilizzino l’IA per conquistare e mantenere il potere, che i sistemi di IA stessi prendano il sopravvento, e che gli umani cedano gradualmente la capacità di guidare il proprio destino. Dobbiamo essere in grado di criticare le soluzioni senza essere ciechi di fronte ai problemi di fondo.