L’IA e il Leviatano: parte I—l’economia istituzionale di un’esplosione di intelligenza
L’economia istituzionale di un’esplosione di intelligenza
Immaginate che avvenga una svolta tecnologica e che, improvvisamente, tutti abbiano accesso a occhiali economici in stile raggi X. Gli occhiali sembrano normali occhiali di uso quotidiano, ma sono dotati di una manopola che permette di vedere attraverso i muri, i vestiti delle persone, ecc. In qualche modo, funzionano anche su vecchie foto e registrazioni video.
Da un certo punto di vista, sarebbe straordinario. Potreste notare, ad esempio, un misterioso nodulo sulla tiroide di un vostro amico, individuando un cancro in fase precoce e risparmiandogli spese mediche incalcolabili. Tuttavia, nell’immediato, l’accesso universale e quasi impercettibile a questi occhiali (o lenti a contatto, se preferite) rappresenterebbe un disastro per la sicurezza e la privacy. La sicurezza delle abitazioni o dei dispositivi non verrebbe compromessa di per sé; piuttosto, sarebbe come se una società progettata attorno allo spettro della luce visibile si ritrovasse inadatta da un giorno all’altro.
Ci sono tre modi canonici in cui la società potrebbe reagire:
-
Evoluzione culturale: abbracciamo il nudismo e una serie di nuove norme post-privacy;
-
Mitigazione e adattamento: iniziamo a indossare biancheria intima di piombo e ci affrettiamo a riadattare le nostre case, gli uffici e gli spogliatoi con pareti impenetrabili;
-
Regolamentazione e applicazione: vietiamo o regolamentiamo rigorosamente la tecnologia e costruiamo un Leviatano a raggi X per ispezionare gli occhiali delle persone, punire i trasgressori, ecc.
L’opzione in cui tutti si coordinano spontaneamente per non usare mai gli occhiali, o per usarli solo per un sottoinsieme di scopi prosociali, è instabile. Anche se siete un voyeur e l’accesso agli occhiali vi avvantaggia personalmente, alla base c’è un dilemma del prigioniero, e quindi passiamo rapidamente all’equilibrio in cui tutti possiedono gli occhiali, anche se tutti preferiremmo un mondo senza di essi.
Gli occhiali sono una metafora dell’intelligenza artificiale.
È a malapena una metafora. L’intelligenza artificiale sblocca già una sorta di vista a raggi X tramite lo spostamento dei segnali Wi-Fi in una stanza, e con pochi sensori a infrarossi alla fine si potranno sovrapporre immagini realistiche di corpi nudi a ogni pedone di Times Square. Il filtro AR nudista non sarà ammesso nell’App Store di Apple VisionPro, ma la tecnologia di base sarà sufficientemente economica e open source da rendere la questione irrilevante.
Estrazione del segnale
L’IA è un microscopio. Aumenta la risoluzione informativa dell’universo. Ciò comporta molte implicazioni sorprendenti, ma anche molte di inquietanti.
L’IA ci permette di rifattorizzare il codice legacy, restaurare antichi rotoli e individuare nuove galassie in vecchie rilevazioni astronomiche. Allo stesso tempo, l’IA trasforma la vostra andatura in un’impronta digitale, un microfono in un keylogger, e un’istantanea del vostro volto in un test del poligrafo con un’accuratezza superiore al 93%.
Sebbene i deepfake rappresentino una preoccupazione crescente, nel complesso l’IA sta rendendo il mondo radicalmente meno opaco. La trasparenza perfetta ha i suoi costi. La conoscenza si espanderà e le barriere alla manipolazione del mondo diminuiranno. Sentiremo letteralmente le grida dei fiori stressati e avremo conversazioni con le balene. Poi, un giorno, un modello di IA progettato per completare le vostre frasi imparerà a completare i vostri pensieri, abbattendo quel divario soggettivo che gran parte della filosofia occidentale riteneva impenetrabile.
Molti di questi casi d’uso non sono nuovi, ma stanno diventando affidabili solo ora grazie all’aumento della scala. Se nel rumore c’è un segnale, una rete neurale sufficientemente grande lo estrarrà, in un modo che col tempo sta diventando esponenzialmente più economico e accessibile. Non dovrete nemmeno usare pip install! Il vostro assistente IA in stile Jarvis richiamerà semplicemente modelli su misura da HuggingFace o GitHub su richiesta. Per i giocatori di D&D che stanno leggendo, sarà come un amuleto che garantisce a chi lo indossa un 20 naturale in ogni prova di Arcano.
Sembra liberatorio, e per molti versi lo sarà. Ma la storia suggerisce anche che i potenziamenti della nostra libertà naturale possono essere paradossalmente oppressivi, almeno nel breve periodo.
Per essere chiari, quanto segue non è un’argomentazione a favore di una sospensione dello sviluppo dell’IA, anche se potessimo farlo. Sebbene ritenga che avremo bisogno di nuovi meccanismi di supervisione per implementare in sicurezza i modelli di frontiera man mano che le loro scala e potenza aumentano, il nostro obiettivo non dovrebbe essere quello di fermare l’IA, ma piuttosto, in un certo senso, di padroneggiarla.
Semmai, accelerare le diverse modalità di IA difensiva potrebbe essere la nostra migliore speranza per rendere l’opzione della «mitigazione e adattamento» la via di minor resistenza. Ciononostante, è importante essere chiari sui molti modi in cui il nostro futuro con l’IA rappresenta un pacchetto unico, e trarne le implicazioni, senza pregiudizi, per la probabile evoluzione del nostro ordine sociale.
Lo stato di natura
Come è noto, Thomas Hobbes descrisse la vita nello «stato di natura» come una «guerra di tutti contro tutti». Questa affermazione viene talvolta confusa con una descrizione delle società di cacciatori-raccoglitori, ma Hobbes in realtà alludeva alle condizioni catastrofiche della Guerra Civile Inglese, dalla quale fuggì per la propria incolumità. Leviathan, or the Matter, Forme, & Power of a Common-Wealth Ecclesiasticall and Civill fu pubblicato per la prima volta nel 1651, all’inizio dell’Interregno. Avendo individuato le origini della guerra nella crescente frammentazione e radicalizzazione della società inglese sotto il fragile governo personale del re Carlo I, Leviathan, or the Matter, Forme, & Power of a Common-Wealth Ecclesiasticall and Civill fornì un’argomentazione teorica sul perché la monarchia assoluta fosse l’unico modo per ripristinare la pace e l’ordine. La nozione hobbesiana di «patto» sociale non era un contratto letterale sottoscritto dagli individui, bensì una descrizione astratta del processo attraverso il quale le fazioni in conflitto giungono a una soluzione politica cedendo la loro «libertà naturale» di interferire negli affari altrui a un’autorità superiore.
Le cause immediate della Guerra Civile Inglese sono complesse e molteplici, ma la storia nel suo insieme è quella di un cambiamento tecnologico dirompente. Sebbene la stampa fosse stata inventata due secoli prima, la guerra scoppiò nel punto di flesso della rivoluzione della stampa — il punto critico che innescò il decollo della produzione a stampa. La prima pubblicazione della Bibbia di Re Giacomo risale al 1611, ad esempio, appena 30 anni prima della guerra ma solo 55 anni prima della nascita del giornalismo con il primo giornale inglese pubblicato regolarmente, The Oxford Gazette.
L’accesso diffuso alla stampa rese possibile un dissenso altrettanto diffuso, stimolando una «rivolta del pubblico» che rispecchiava le dinamiche attribuite da Martin Gurri all’era di Internet. A partire dalla Riforma inglese, il crescente accesso alle informazioni non solo aprì le menti delle persone ad appartenenze politiche alternative, ma le rese sempre più consapevoli dell’esistenza di vicini con opinioni diverse. Quando nel 1643 i controlli legali del Parlamento sulla stampa praticamente crollarono, il suo regime episcopale di licenze e censura fu ceduto a un mercato non regolamentato, rendendo ancora più facile per i separatisti puritani, gli indipendenti e altri nonconformisti radicali trovare persone con le stesse idee e coordinarsi contro la Chiesa. Il Parlamento, nel frattempo, contestava a sua volta l’autorità della Corona, creando ciò che lo storico Robert Zaller ha definito un nuovo «discorso di legittimità». Nel giro di pochi, vertiginosi anni, l’escalation ideologica su più fronti raggiunse infine il suo epilogo nel regicidio e nella violenza di massa.
L’intelligenza artificiale viene spesso paragonata alla stampa, ma i parallelismi tra l’Inghilterra della prima età moderna e l’America contemporanea vanno oltre l’aspetto tecnologico. I nostri scismi culturali e ideologici si stanno intensificando; i nuovi puritani si sono scontrati frontalmente con una controreazione conservatrice; e i nostri dibattiti parlamentari ruotano attorno a questioni di censura, mentre i controlli sui media del secolo scorso soccombono all’internet aperto. Persino il potere della presidenza degli Stati Uniti ha raggiunto il suo nadir, come se attendesse un re originalista per riaffermare l’esecutivo unitario e scatenare una crisi.
Accelerare verso cosa?
Questi scismi si riflettono nei diversi schieramenti sull’intelligenza artificiale. Alcuni sono favorevoli a regolamentare lo sviluppo dell’intelligenza artificiale fino a quando non potremo garantire una sicurezza perfetta, magari attraverso un regime di licenze. Altri desiderano procedere a testa bassa, accelerando l’accesso tramite l’open source.
Il riformatore inglese e «intelligencer» Samuel Hartlib fu l’«accelerazionista efficace» (e/acc) della sua epoca. Il suo obiettivo dichiarato era quello di «documentare tutto il sapere umano e renderlo universalmente accessibile per l’istruzione di tutta l’umanità», e spesso stampava testi tecnici da diffondere a proprie spese — la cosa più vicina all’open source dell’epoca. Gli evangelisti dell’intelligenza artificiale di oggi hanno obiettivi altrettanto ambiziosi, dalla missione di Emad Mostaque di utilizzare l’intelligenza artificiale per istruire i bambini di tutto il mondo, alla visione dell’intelligenza artificiale di Marc Andreesen come strumento per potenziare l’umanità praticamente in ogni ambito.
Gli accelerazionisti hanno dalla loro parte la visione a lungo termine della storia, e io condivido ampiamente la visione del futuro di Andreesen. Ciononostante, è sempre più facile immaginare il punto di arrivo di una tecnologia che non prevedere i compromessi e i bivi che inevitabilmente sorgono durante la transizione.
L’istinto Chaotic Good di George Hotz di rilasciare come open source il più rapidamente possibile modelli potenzialmente a duplice uso presenta un rischio particolarmente elevato di ripercussioni negative. L’etica e/acc consiste nel considerare l’open source come un motore del progresso della libertà umana, pur avallando una mentalità di sicurezza in stile DEF CON. Man mano che una quota sempre maggiore dell’economia passa attraverso modelli proprietari, le alternative open source costituiranno anche un controllo essenziale per impedire che l’intelligenza artificiale venga monopolizzata dallo Stato o da una manciata di colossi tecnologici.
Fortunatamente, esiste un ampio terreno di compromesso tra la «FDA per i modelli di intelligenza artificiale» dei sostenitori della sicurezza e l’impulso entusiastico a democratizzare nuove e potenti capacità non appena termina l’addestramento. Se le capacità offensive si diffondessero più rapidamente di quanto l’adattamento e la tecnologia difensiva riescano a tenere il passo, il massimalismo open source potrebbe persino mettere a repentaglio la causa stessa della libertà, accelerando le condizioni per il Leviatano dell’intelligenza artificiale che Hotz e compagni temono di più.
La regola della minoranza
Prima del 2001, la sicurezza aeroportuale era quasi invisibile. Si poteva persino viaggiare in auto tra il Canada e gli Stati Uniti senza passaporto. Poi, una fatidica mattina di settembre, 19 terroristi uccisero quasi 3000 persone nel giro di poche ore. Una settimana dopo, nelle cassette postali di personalità di spicco cominciarono ad arrivare lettere contenenti spore di antrace, che causarono la morte di cinque persone. Otto settimane dopo, Richard Reid fu catturato durante un volo mentre tentava di innescare una bomba nascosta nella sua scarpa. In mezzo a questa rapida successione di eventi, i nostri leader si resero improvvisamente conto che la tecnologia e la globalizzazione stavano introducendo una serie di rischi asimmetrici. Dalle armi biologiche ai dirottamenti, ora bastava un piccolo gruppo di estremisti o un singolo radicale per seminare il caos nella società.
La società ha reagito in tutti e tre i modi canonici sopra elencati. Abbiamo mitigato i rischi rafforzando la sicurezza alle frontiere e negli aeroporti. Abbiamo potenziato l’applicazione della legge approvando il Patriot Act e finanziando nuove forme di sorveglianza high-tech. E la nostra cultura si è rapidamente adattata al crescente teatro della sicurezza, sostenuta dai timori nei confronti del radicalismo islamico e da uno slancio di solidarietà nazionale.
Col senno di poi, abbiamo reagito in modo eccessivo. Sebbene il terrorismo incombesse pesantemente a livello psicologico, i rischi erano quantitativamente esigui rispetto alle cose banali che uccidono le persone ogni giorno. Nei 12 mesi successivi all’11 settembre, ad esempio, l’aumento della paura di volare ha plausibilmente causato circa 1 600 vittime della strada in più. Da allora la paura del terrorismo islamico si è placata, ma questi protocolli di sicurezza rafforzati non solo rimangono in vigore, ma continuano a essere potenziati e persino riadattati per minacce interne.
Un uso improprio e pericoloso dell’IA sarà probabilmente altrettanto raro. La maggior parte delle persone semplicemente non è sociopatica. Ciononostante, molti ambiti della vita seguono la logica della «Dittatura delle minoranze» di Nassim Taleb, in cui una minoranza esigua ma intransigente finisce per dettare le regole per tutti. Meno del 2% degli americani soffre di allergia alle arachidi, ad esempio, eppure molti spazi comuni vietano gli alimenti contenenti arachidi solo per precauzione.
A seconda di come si definirà l’equilibrio tra offesa e difesa, l’IA ha il potenziale per riportarci in un mondo in cui la sicurezza tornerà a essere invisibile. Non dovrete togliervi le scarpe e umiliarvi davanti a un agente della TSA. Invece, una telecamera analizzerà il vostro volto mentre entrate nel terminal, confrontandolo con un database di malintenzionati noti ed estraendo qualsiasi segnale predittivo nascosto nelle vostre espressioni facciali, nel vostro linguaggio del corpo, nel vostro profilo demografico e nei vostri post sui social media.
Gli aeroporti rappresentano tuttavia un caso un po’ particolare. Poiché gli aeroporti sono dei «giardini recintati», la loro sicurezza può sfruttare i vantaggi dell’integrazione verticale. E poiché si tratta di porte d’accesso a destinazioni lontane, i viaggiatori sono costretti a rinunciare a determinati diritti oppure a prendere l’autobus. La maggior parte degli spazi condivisi non è così. Dalle piccole imprese ai parchi pubblici, la nostra sicurezza quotidiana dipende in gran parte dalla buona volontà e dalla discrezione degli altri. Pertanto, nella misura in cui l’IA crea rischi per la sicurezza e la privacy ovunque, sempre più spazi condivisi potrebbero finire per funzionare come un aeroporto, ovvero come uno Stato di sorveglianza in miniatura.
A sua volta, l’imminente esplosione di intelligenza mette la democrazia liberale sul filo del rasoio. Da un lato c’è un Leviatano dell’IA; un singleton globale che ristabilisce l’ordine attraverso un panopticon in stile cinese e un sistema di credito sociale. Dall’altro c’è il collasso dello Stato e la frammentazione politica, poiché le nostre istituzioni tradizionali non riescono ad adattarsi e lasciano il posto a nuove organizzazioni native dell’IA che risolvono il problema principale-agente e rendono possibile l’azione collettiva localizzata a velocità fulminee. Ciò include il rafforzamento della privacy e della sicurezza, ottenuto in parte attraverso un patto di adesione volontaria che prevede di lasciare le proprie armi biologiche e gli occhiali a raggi X alla proverbiale porta.
Scrutando oltre l’orizzonte degli eventi di quest’ultimo percorso, i contorni di un nuovo ordine sociale quasi medievale cominciano a prendere forma. Ma sto raggiungendo il limite di caratteri di Substack, quindi tutto ciò dovrà attendere la Parte II.