Laboratorio contro vita reale: dissezione di “AI intesa come tecnologia tradizionale”
E se l’IAG non potesse essere sviluppata in una torre d’avorio?
L’ultima volta, ho discusso AI 2027, il modello pubblico più dettagliato su come l’IA potrebbe trasformare il mondo in tempi brevi. Oggi esplorerò una pubblicazione recente che adotta una visione contrapposta: AI as Normal Technology1. Gli autori, Arvind Narayanan e Sayash Kapoor dell’Università di Princeton, sostengono che «gli impatti trasformativi a livello economico e sociale saranno lenti (su una scala temporale di decenni)». Proprio come nel mio ultimo post ho cercato di far emergere i presupposti chiave che portano a tempistiche rapide, ora cercherò di evidenziare i presupposti chiave che portano a tempistiche lente. (Come spesso si osserva, le tempistiche lente non sono più quelle di una volta. Prima del lancio di ChatGPT, l’emergere dell’IA su «una scala temporale di decenni» sarebbe sembrato alla maggior parte delle persone, me compreso, piuttosto rapido!)
L’IA sembra avanzare a grandi passi. Perché gli autori di questo articolo ritengono che ci vorranno decenni prima che abbia un impatto trasformativo?
Cosa si intende per «tecnologia normale»
L’articolo non mette in dubbio che l’IA avrà un peso enorme:
Considerare l’IA come «normale» non significa sottovalutarne l’impatto: anche tecnologie trasformative e di uso generale come l’elettricità e Internet sono «normali» nella nostra concezione.
La tesi centrale è che l’impatto dell’IA sul mondo sarà graduale. Invece di uno shock improvviso innescato dalla rapida comparsa della superintelligenza, gli eventi si svilupperanno sulla già citata «scala temporale di decenni»… ed è improbabile che l’IA diventi così potente da sfuggire al controllo umano.
In AI 2027, la SIA viene sviluppata in relativo isolamento in un laboratorio di ricerca. In AI as Normal Technology, il progresso è il risultato di cicli di retroazione turbolenti tra la ricerca teorica e l’uso nel mondo reale. Ogni avanzamento procede attraverso una serie di fasi:
- Invenzioni, come nuovi modi di addestrare i modelli di IA.
- Innovazioni – lo sviluppo di prodotti che utilizzano l’IA per supportare un caso d’uso nel mondo reale.
- Adozione – individui, team e aziende che scelgono di utilizzare quei nuovi prodotti.
- Diffusione – cambiamenti nei processi, nelle strutture organizzative, nelle leggi e nelle norme per supportare l’adozione.
L’idea è che le fasi successive dipendano dai progressi di quelle precedenti, le quali a loro volta possono avanzare solo grazie al feedback che arriva dalle fasi successive. Ho già spiegato come, dopo vent’anni di sviluppo, le auto a guida autonoma di Waymo non siano ancora disponibili per la guida in autostrada o sulla neve. Al contrario, AlphaZero ha avuto bisogno di sole tre ore di addestramento per diventare più bravo a scacchi di qualsiasi essere umano nella storia2. La differenza sta nel fatto che ogni fase dello sviluppo di Waymo viene valutata attraverso meticolose prove sul campo, mentre AlphaZero ha progredito a un ritmo vertiginoso, spinto unicamente dalle partite contro se stesso. Una caratteristica distintiva di una tecnologia «normale» è che il progresso dipende da insegnamenti che possono essere appresi solo attraverso l’uso effettivo. Ci vuole tempo perché una tecnologia si trasformi in un prodotto e trovi un pubblico, quindi il ciclo dell’invenzione procede gradualmente.
Dato il ritmo forsennato del progresso degli ultimi anni, è davvero possibile che l’IA si sviluppi in modo «normale», nell’arco di decenni? Per giungere a questa conclusione, l’articolo include alcune «prescrizioni»: scelte (comprese quelle politiche) che secondo gli autori possiamo e dovremmo compiere. Al contrario, AI 2027 è rigorosamente un esercizio di previsione; gli autori sottolineano di non avallare le scelte che portano al loro scenario «più plausibile».
Ecco le idee che portano gli autori di AI as Normal Technology a prevedere un percorso più lungo e graduale verso un’IA potente.
Le capacità attuali si riveleranno sopravvalutate
È innegabile che i modelli di IA più recenti siano in grado di compiere imprese straordinarie. Tuttavia, ci si chiede quanto queste capacità siano effettivamente rilevanti nel mondo reale. Per citare l’articolo:
Ad esempio, sebbene GPT-4 abbia ottenuto, stando a quanto riferito, punteggi che lo collocano nel 10% dei migliori candidati all’esame di abilitazione, questo ci dice ben poco sulla capacità dell’IA di esercitare la professione legale. L’esame di abilitazione dà troppa importanza alla conoscenza delle materie e troppo poca alle competenze pratiche, che sono molto più difficili da misurare in un formato standardizzato e somministrato al computer. In altre parole, pone l’accento proprio su ciò in cui i modelli linguistici eccellono: recuperare e applicare informazioni memorizzate.
…
Questa osservazione non si limita affatto al diritto. Un altro esempio è il divario tra i problemi di programmazione a sé stanti, nei quali l’IA eccelle in modo dimostrabile, e l’ingegneria del software nel mondo reale, in cui il suo impatto è difficile da misurare ma appare modesto. Anche i benchmark di programmazione più rinomati, che si spingono oltre i problemi banali, devono necessariamente ignorare molte dimensioni dell’ingegneria del software nel mondo reale a favore della quantificazione e della valutazione automatizzata tramite dati disponibili pubblicamente.
Questo schema si ripete continuamente: più un compito è facile da misurare tramite benchmark, meno è probabile che rappresenti il tipo di lavoro complesso e contestualizzato che definisce la pratica professionale. Basandosi in larga misura sui benchmark di capacità per orientare la nostra comprensione dei progressi dell’IA, la comunità dell’IA sopravvaluta costantemente l’impatto della tecnologia nel mondo reale.
AI as Normal Technology ritiene che gli attuali modelli e le applicazioni di IA, nonostante le dimostrazioni a effetto e i punteggi nei benchmark, non siano ancora pronti ad avere un impatto dirompente. Sostiene che il divario tra i benchmark e l’applicabilità nel mondo reale ci ha portato a sopravvalutare sia l’attuale stato dell’IA, sia la velocità con cui ha progredito. Ciò solleva una domanda: con quale rapidità progrediranno le capacità da questo punto in poi?
Il progresso sarà limitato al ritmo dei cicli di implementazione
In precedenza ho accennato al fatto che uno dei motivi principali per cui lo sviluppo delle auto a guida autonoma ha richiesto così tanto tempo è la necessità di effettuare prove sul campo per raccogliere i dati con cui addestrare la generazione successiva di software. Nel mio post su AI 2027, ho citato il divertente esempio delle auto Waymo che hanno iniziato a suonare incessantemente il clacson l’una contro l’altra nel cuore della notte dopo essersi ammassate in un parcheggio riservato alla sosta a motore acceso. (Divertente, certo, a meno di non vivere in uno dei condomini adiacenti.)
AI as Normal Technology presuppone che lo stesso valga in molti ambiti: in numerosi settori i miglioramenti ai modelli e alle applicazioni di IA richiederanno il feedback dell’uso sul campo:
Questo «divario tra capacità e affidabilità» si ripresenta continuamente. Ha rappresentato uno dei principali ostacoli alla realizzazione di «agenti di IA» utili, in grado di automatizzare attività del mondo reale.
Persino le informazioni esistenti potrebbero non essere disponibili per l’addestramento dei modelli. Ad esempio, gran parte della conoscenza di valore economico è custodita sotto forma di segreto commerciale. Gli autori sottolineano inoltre che «gran parte della conoscenza è tacita all’interno delle organizzazioni e non è documentata per iscritto, tanto meno in una forma che possa essere appresa passivamente». Vi rientrano i dettagli del «modo in cui facciamo le cose qui», che saranno determinanti per un’adozione efficace delle IA in ogni ambiente di lavoro. Anche le preoccupazioni relative alla privacy e alla sicurezza, così come i vincoli normativi, potrebbero limitare le informazioni disponibili per l’addestramento delle IA.
(I sostenitori di tempistiche rapide potrebbero obiettare che alcune capacità sofisticate, come la scrittura di codice informatico, si prestano maggiormente allo sviluppo in laboratorio. È stato anche suggerito che un’IA diventata estremamente sofisticata in tali compiti avrà sviluppato abilità cognitive generali che le consentiranno di progredire rapidamente in altri ambiti senza aver bisogno di molto feedback. In linea di massima, un programmatore superumano potrebbe aver sviluppato funzioni esecutive tali da prepararlo a un successo più ampio.)
L’articolo sostiene che, a causa di tutti questi fattori, ogni passo in avanti nel progresso dell’IA dovrà attendere che l’iterazione precedente sia stata ampiamente implementata. Ciò solleva un interrogativo: quanto tempo richiederà ogni ondata di implementazione?
I cicli di adozione dell’IA saranno lenti quanto quelli di altre tecnologie
In genere, quando una nuova tecnologia fa il suo ingresso sul mercato, le preoccupazioni per la sicurezza, i vincoli normativi, nonché l’attrito e l’inerzia generali limitano il ritmo con cui le aziende e i singoli individui iniziano a utilizzarla. Quando i prodotti compaiono per la prima volta, solo pochi pionieri si lanciano nell’adozione. Con una popolazione iniziale di utenti ridotta, ci vuole tempo per accumulare lo storico di utilizzo necessario a consentire un’adozione più ampia. Ciò è particolarmente vero nelle applicazioni in cui l’affidabilità è fondamentale, e in questa categoria rientrano molti settori di rilievo. Ecco perché lo sviluppo delle auto a guida autonoma ha richiesto decenni, nonostante investimenti per svariati miliardi di dollari.
In altre parole, in questa ampia gamma di ambiti, la diffusione dell’IA è in ritardo di decenni rispetto all’innovazione. Una delle ragioni principali è la sicurezza: quando i modelli sono più complessi e meno intelligibili, è difficile prevedere tutte le possibili condizioni di implementazione durante i processi di test e convalida. Un buon esempio è lo strumento di previsione della sepsi di Epic che, nonostante mostrasse un’accuratezza apparentemente elevata durante la convalida interna, ha registrato prestazioni nettamente inferiori negli ospedali, non rilevando due terzi dei casi di sepsi e sommergendo i medici di falsi allarmi.
Anche al di fuori dei settori critici per la sicurezza, l’adozione dell’IA è più lenta di quanto suggeriscano i resoconti più diffusi. Ad esempio, uno studio ha fatto notizia per aver rilevato che, nell’agosto 2024, il 40% degli adulti statunitensi utilizzava l’IA generativa. Tuttavia, poiché la maggior parte delle persone ne faceva un uso sporadico, ciò si è tradotto solo nello 0,5%-3,5% delle ore lavorative (e in un aumento della produttività del lavoro compreso tra 0,125 e 0,875 punti percentuali).
È opinione comune che le ondate di adozione tecnologica stiano accelerando, ma AI as Normal Technology mette in discussione questa idea:
Non è nemmeno chiaro se la velocità di diffusione sia maggiore oggi rispetto al passato. Lo studio citato in precedenza ha riportato che l’adozione dell’IA generativa negli Stati Uniti è stata più rapida rispetto a quella dei personal computer (PC), con il 40% degli adulti statunitensi che ha adottato l’IA generativa entro due anni dal lancio del primo prodotto sul mercato di massa, rispetto al 20% entro tre anni per i PC. Tuttavia, questo confronto non tiene conto delle differenze nell’intensità di adozione (il numero di ore di utilizzo) né dell’elevato costo di acquisto di un PC rispetto all’accesso all’IA generativa. A seconda di come si misura l’adozione, è del tutto possibile che l’adozione dell’IA generativa sia stata molto più lenta rispetto a quella dei PC.
L’articolo sostiene che la necessità di imparare da implementazioni lente e graduali sarà particolarmente importante man mano che l’IA passerà dalla replica delle capacità umane allo sviluppo di nuove idee:
Ulteriori limiti emergono quando dobbiamo spingerci oltre l’apprendimento dell’IA basato sulla conoscenza umana esistente. Alcune delle nostre conoscenze più preziose sono di natura scientifica e socio-scientifica, e hanno permesso il progresso della civiltà attraverso la tecnologia e le organizzazioni sociali su larga scala (ad esempio, i governi). Cosa servirà all’IA per superare i confini di tale conoscenza? Probabilmente richiederà interazioni con, o addirittura esperimenti su, persone o organizzazioni, che vanno dai test sui farmaci alle politiche economiche. In questo ambito, esistono limiti invalicabili alla velocità di acquisizione della conoscenza a causa dei costi sociali della sperimentazione. Probabilmente le società non permetteranno (e non dovrebbero permettere) di scalare rapidamente gli esperimenti per lo sviluppo dell’IA.
Immagino che i sostenitori delle tempistiche brevi possano avanzare due controargomentazioni. In primo luogo, l’IA potrebbe essere una tecnologia eccezionalmente flessibile: man mano che le sue capacità progrediscono, potrebbe adattarsi essa stessa al lavoro, a differenza delle ondate precedenti in cui le mansioni dovevano essere ristrutturate per accogliere la nuova tecnologia. In secondo luogo, l’IA potrebbe essere così allettante da motivare una rapida adozione anche di fronte agli ostacoli. O quantomeno, potrebbero esserci dei pionieri (startup agili, paesi con scarsa regolamentazione, aziende che ignorano le regole così come Uber ha ignorato le leggi sui taxi) che finiranno per superare la concorrenza di organizzazioni più conservatrici o rispettose delle norme – sebbene AI as Normal Technology sostenga che il ritmo di adozione sarà (e dovrebbe essere) comunque limitato dalle preoccupazioni per la sicurezza. L’articolo sottolinea che la sicurezza potrebbe entrare in gioco attraverso le leggi esistenti, nuove normative, le preferenze dei consumatori e le preoccupazioni aziendali riguardo alla responsabilità civile e alle reazioni negative.
Questo solleva la questione di quanto esattamente possano diventare potenti e convincenti le soluzioni di IA. Gli autori di AI as Normal Technology sostengono che non dovremmo aspettarci troppo.
Le IA non saranno superintelligenti
Gli scenari in cui l’IA progredisce rapidamente e/o ha un impatto massiccio spesso chiamano in causa la «superintelligenza» – l’idea che le IA supereranno di gran lunga le capacità umane. Nello scenario di AI as Normal Technology, tutto ciò si rivela irrealizzabile:
Riteniamo che vi siano relativamente pochi compiti cognitivi nel mondo reale in cui i limiti umani siano così marcati da consentire all’IA di superare di gran lunga le prestazioni umane (come fa l’IA negli scacchi). In molti altri ambiti, compresi alcuni associati a forti speranze e timori riguardo alle prestazioni dell’IA, riteniamo che esista un elevato «errore irriducibile» – un errore inevitabile dovuto alla stocasticità intrinseca del fenomeno – e che le prestazioni umane siano essenzialmente vicine a tale limite.
Concretamente, proponiamo due di questi ambiti: la previsione e la persuasione. Prevediamo che l’IA non sarà in grado di superare in modo significativo gli esseri umani addestrati (in particolare i team di esseri umani e soprattutto se supportati da semplici strumenti automatizzati) nella previsione di eventi geopolitici (ad esempio, le elezioni). Facciamo la stessa previsione per il compito di persuadere le persone ad agire contro i propri interessi.
L’idea è che i fattori che influenzano l’esito di un’elezione siano talmente complessi e comportino così tanti cicli di retroazione caotici che nemmeno un cervello delle dimensioni di un centro di calcolo sarebbe in grado di prevedere il risultato con molta più certezza di quanta ne abbiamo oggi. E che la maggior parte dei problemi importanti del mondo reale sarà di questa natura. Pertanto, non dovremmo aspettarci che le IA sviluppino un’abilità soprannaturale nel pianificare strategie aziendali o nel mettere a punto rapidamente le nanotecnologie. Né dovremmo aspettarci che siano miracolosamente abili nello scegliere le direzioni in cui proseguire la ricerca e sviluppo sull’IA, elemento che ha un ruolo importante nelle tempistiche rapide di AI 2027. Di conseguenza, se la «superintelligenza» dovesse effettivamente rivelarsi perlopiù inesistente, ciò porrà un limite sia alla velocità con cui l’IA verrà sviluppata, sia all’impatto che potrà avere sul mondo.
I massimalisti dell’IA ribatterebbero sottolineando l’enorme variabilità delle capacità umane. Se l’IA fosse «semplicemente» in grado di fornire milioni di pensatori da premio Nobel, prosegue l’argomentazione, ciò avrebbe un impatto enorme. E se la casualità della genetica ogni tanto produce un Einstein, chi può dire che un’intelligenza libera dai vincoli del canale del parto non possa essere un super-Einstein? Personalmente, trovo queste idee plausibili ma speculative; potrebbe darsi che l’attuale disponibilità di premi Nobel sia già sufficiente per individuare la maggior parte delle idee pronte a essere scoperte.
Un’altra argomentazione contraria riguarda la velocità e la scala. Anche se la complessità del mondo impedisse alle IA di compiere imprese superumane di intuizione e analisi, la capacità di svolgere processi cognitivi di livello meramente umano alla velocità del silicio e su scala da centro di calcolo potrebbe avere un impatto significativo. Ad esempio, AI 2027 immagina un esercito di «ricercatori di IA superumani» che monitorano da vicino gli esperimenti di addestramento dell’IA, consentendo di interrompere tempestivamente quelli con prestazioni insufficienti e liberando così risorse di calcolo per portare avanti gli esperimenti più promettenti. Dwarkesh Patel suggerisce che, poiché le IA possono essere facilmente replicate, Google potrebbe un giorno creare un milione di copie degli «equivalenti IAG dei [suoi ingegneri di punta], con tutte le loro competenze, capacità di giudizio e conoscenze tacite intatte», e le aziende del futuro potrebbero comunicare e coordinarsi a un livello senza precedenti. Oppure immagina che il discorso sul teleprompter di un candidato politico venga rivisto in tempo reale sulla base delle espressioni facciali e dei post sui social media del suo pubblico. (Che questo genere di cose sia tecnicamente ed economicamente fattibile è oggetto di dibattito, ma rientra fra le possibilità da prendere in considerazione.)
Tutti questi esempi di velocità e scala presuppongono che le IA operino parzialmente o interamente senza una stretta supervisione umana. AI as Normal Technology prosegue argomentando che, al contrario, l’IA sarà (o dovrebbe essere) generalmente relegata a ruoli operativi e di supporto nella società.
L’IA richiederà una supervisione perpetua
Nello scenario descritto in AI as Normal Technology, l’IA assumerà gradualmente sempre più compiti, lasciando alle persone un ruolo di supervisione: decidere cosa deve essere fatto e supervisionare le IA che svolgono il lavoro effettivo. La supervisione rimarrà un’attività umana, perché alle IA andrà indicato ciò che vogliamo, perché non saranno abbastanza affidabili da operare in totale autonomia e per ragioni di sicurezza:
Man mano che un numero crescente di compiti fisici e cognitivi diventerà suscettibile di automazione, prevediamo che una percentuale sempre maggiore dei lavori e delle mansioni umane sarà legata al controllo dell’IA.
Oltre al controllo dell’IA, la definizione dei compiti è destinata a diventare una parte sempre più importante delle mansioni umane (a seconda di quanto ampiamente si intenda il controllo, la definizione dei compiti potrebbe esserne considerata parte). Come sa chiunque abbia provato a esternalizzare lo sviluppo di un software o di un prodotto, specificare in modo inequivocabile ciò che si desidera si rivela una parte sorprendentemente consistente dello sforzo complessivo. Pertanto, il lavoro umano – la definizione dei compiti e la supervisione – opererà al confine tra i sistemi di IA che svolgono compiti diversi. Eliminare alcuni di questi colli di bottiglia di efficienza e far sì che i sistemi di IA portino a termine autonomamente compiti più ampi «end-to-end» sarà una tentazione sempre presente, ma ciò aumenterà i rischi per la sicurezza poiché ridurrà la leggibilità e il controllo. Questi rischi fungeranno da freno naturale contro la cessione di un controllo eccessivo.
Prevediamo inoltre che questa trasformazione sarà guidata principalmente dalle forze di mercato. Un’IA mal controllata sarà troppo soggetta a errori per avere senso dal punto di vista commerciale. Ma la regolamentazione può e deve rafforzare la capacità e la necessità delle organizzazioni di mantenere il controllo umano.
In AI 2027, al contrario, l’umanità è rapidamente tentata di concedere alle IA gradi di autonomia sempre maggiori. Quale esito è più probabile? A livello individuale e aziendale ci sarà un complesso intreccio di incentivi, che si evolverà man mano che le IA acquisiranno maggiori capacità (e la società si abituerà sempre di più al ruolo dell’IA nella vita quotidiana). Le IA potrebbero diventare meno «soggette a errori» nel corso del tempo. La misura in cui gli esseri umani manterranno uno stretto rapporto di «definizione dei compiti e supervisione» con l’IA è una variabile importante da monitorare in futuro. Si tratta anche di una scelta e, pertanto, potenzialmente di un’importante leva per la politica.
Questo ci porta a un’ultima idea chiave riguardo all’impatto dell’IA: quanto potere avrà l’IA sul mondo?
Intelligenza vs. potere
AI as Normal Technology opera una netta distinzione tra intelligenza (capacità di pensare) e potere (capacità di far accadere le cose). Gli autori osservano che gli esseri umani moderni hanno un controllo sull’ambiente di gran lunga superiore a quello dei nostri antenati, pur essendo geneticamente quasi identici a loro. Concludono che intelligenza e potere non sono necessariamente legati tra loro – una divergenza sostanziale rispetto allo scenario descritto in AI 2027.
Proseguono sottolineando che esistono molti modi per garantire che i sistemi basati sull’IA siano sicuri. La sicurezza abbraccia considerazioni di vario genere, tra cui quella di assicurarsi che le IA non abbiano il potere di causare danni. Gli autori menzionano meccanismi di sicurezza e controllo che includono la valutazione dei sistemi prima della loro implementazione; il monitoraggio del loro funzionamento; sistemi di salvaguardia e interruttori di emergenza che impediscono a un’IA di operare al di fuori dei limiti definiti; la verifica formale delle proprietà del sistema; la limitazione delle IA alle capacità minime necessarie per il loro compito; e l’uso di IA più semplici e affidabili per supervisionare altre IA. Si aspettano che, con questi o altri meccanismi simili, la capacità dell’IA di produrre effetti dannosi sul mondo resterà circoscritta. Un autore osserva: «Riteniamo che ci siano stati (e continueranno ad esserci) forti incentivi commerciali contro un’IA fuori controllo, e che il mercato produrrà numerose innovazioni in materia di controllo».a
AI as Normal Technology dipinge un quadro che la maggior parte delle persone troverà molto più rassicurante rispetto a AI 2027. Quanto peso dovremmo attribuirgli?
Una scommessa sul fatto che l’IA non romperà gli schemi
AI as Normal Technology presenta un’argomentazione dettagliata contro gli scenari in cui l’IA avrà un impatto radicale a breve termine. Il cuore dell’argomentazione è proprio lì, nel titolo: l’IA si svilupperà allo stesso modo delle altre tecnologie, soggetta ai normali limiti al ritmo di invenzione, innovazione, adozione e diffusione. Il mondo è complesso e contiene molti elementi disparati ma interconnessi, che pongono limiti naturali alla velocità del cambiamento; limiti che possiamo rafforzare con scelte politiche oculate.
È questa la visione corretta? La storia è certamente dalla sua parte. Anche solo a memoria d’uomo si sono fatti grandi proclami sull’impatto del microprocessore, del personal computer, di Internet e dello smartphone… ma tutte queste innovazioni si sono sviluppate nel quadro di una tecnologia «normale». Per non parlare del Segway, della realtà virtuale, delle stampanti 3D e di molte altre tecnologie che sono state anch’esse oggetto di un notevole clamore, ma che più o meno si sono sgonfiate3 (almeno finora).
Ho vissuto l’avvento di tutte quelle tecnologie e non ricordo che alcuna di esse mi sia sembrata così epocale come l’IA. Ma naturalmente la memoria può essere inaffidabile. I massimalisti dell’IA sosterrebbero che una tecnologia in grado di fare tutto ciò che può fare un essere umano (ammesso che l’IA sia all’altezza di questa aspettativa) sarà fondamentalmente diversa da qualsiasi cosa abbiamo visto in passato.
Come nel caso di AI 2027, lo scenario di AI as Normal Technology si basa su diverse aspettative e scelte fondamentali. Anche per i settori che sembrano prestarsi all’addestramento in laboratorio, come l’ingegneria del software, non ci sarà spazio perché l’IA sviluppi rapidamente capacità superumane; oppure, se ciò dovesse accadere, tali capacità non si generalizzeranno ad altri ambiti. L’IA non si farà strada verso un uso diffuso più rapidamente di altre tecnologie; anche se dovesse rivelarsi insolitamente convincente e flessibile, ciò non basterà a superare le barriere all’adozione (che in alcuni casi dovrebbero includere una regolamentazione esplicita sulla sicurezza). Il mondo è troppo complesso perché la superintelligenza possa avere un impatto significativo; un’IA potrebbe essere in grado di pianificare astutamente con largo anticipo nell’ambiente controllato di una scacchiera, ma non nella vita reale. Le IA rimarranno sotto stretta supervisione umana, perché non saranno abbastanza sofisticate e affidabili da decidere cosa occorra fare e metterlo in atto su larga scala, e perché i vantaggi dell’IA in termini di velocità e scala non saranno sufficienti a indurci a escludere gli esseri umani dal ciclo decisionale. Investiremo in ulteriori misure di sicurezza – monitoraggio, sistemi di salvaguardia, vincoli e verifica formale – per integrare tale supervisione umana.
Facendo un passo indietro, penso che tutto ciò si riduca essenzialmente a una previsione e a una scelta. La previsione è che non esista una via rapida verso IA così generalmente intelligenti – così generali e così intelligenti – da rompere gli schemi delle tecnologie del passato. La scelta è quella di non cedere alla tentazione di gettare al vento ogni cautela, escludere gli esseri umani dal processo e trascurare altre misure di sicurezza – una scelta che il fascino di un’IA potente potrebbe influenzare. La mia lettura di AI as Normal Technology mi porta alla stessa conclusione di AI 2027: per capire verso quale tipo di futuro ci stiamo dirigendo, dovremmo osservare se le capacità dell’IA stanno accelerando verso l’infinito o se si stanno semplicemente sviluppando in modo… normale.
Ringrazio Arvind Narayanan e Sayash Kapoor per aver gentilmente revisionato una bozza di questo post e segnalato diversi errori. Tutti gli errori e le interpretazioni errate rimanenti sono ovviamente miei. Grazie anche a Rachel Weinberg e Taren Stinebrickner-Kauffman per i commenti e l’aiuto.