La rivoluzione dell’IA: la strada verso la superintelligenza
PDF: Abbiamo realizzato un elegante PDF di questo post da stampare e leggere offline. Acquistalo qui. (Oppure guardane un’anteprima.)
Nota: Il motivo per cui ho impiegato tre settimane per finire questo post è che, approfondendo le ricerche sull’intelligenza artificiale, non riuscivo a credere a ciò che stavo leggendo. Mi sono reso conto quasi subito che ciò che sta accadendo nel mondo dell’IA non è solo un argomento importante, ma di gran lunga L’argomento più importante per il nostro futuro. Così ho voluto imparare il più possibile a proposito e, una volta fatto ciò, assicurarmi di scrivere un post che spiegasse davvero la situazione completa e perché è così importante. Come prevedibile, il testo è diventato smisuratamente lungo, perciò l’ho diviso in due parti. Questa è la Parte 1 — la Parte 2 è qui.
Siamo sull’orlo di un cambiamento paragonabile alla comparsa della vita umana sulla Terra. — Vernor Vinge
Che sensazione si prova a trovarsi qui?
Sembra un punto piuttosto intenso in cui trovarsi — ma poi bisogna ricordare una cosa su com’è stare su un grafico temporale: non si può vedere cosa c’è alla propria destra. Ecco quindi che sensazione si prova davvero a stare lì:
Il che probabilmente sembra piuttosto normale…
Il futuro lontano — in arrivo a breve
Immaginate di prendere una macchina del tempo per tornare al 1750 — un’epoca in cui il mondo era in perenne blackout, la comunicazione a lunga distanza significava urlare a squarciagola o sparare un colpo di cannone in aria e tutti i mezzi di trasporto funzionavano a fieno. Una volta arrivati lì, prendete un tizio, lo portate nel 2015, lo portate in giro e osservate le sue reazioni a tutto ciò che vede. È impossibile per noi capire come sarebbe per lui vedere capsule luccicanti sfrecciare su un’autostrada, parlare con persone che poco prima erano dall’altra parte dell’oceano, guardare eventi sportivi che si svolgono a 1 000 miglia di distanza, ascoltare un’esibizione musicale avvenuta 50 anni prima e giocare con il mio magico rettangolo da stregone che potrebbe usare per catturare un’immagine reale o registrare un momento di vita, generare una mappa con un paranormale puntino blu in movimento che gli mostra dove si trova, guardare il volto di qualcuno e chattare con lui anche se si trova dall’altra parte del paese, e un’infinità di altre inconcepibili stregonerie. Tutto questo prima ancora di fargli vedere Internet o di spiegargli cose come la Stazione Spaziale Internazionale, il Grande Collisore di Adroni, le armi nucleari o la relatività generale.
Per lui questa esperienza non sarebbe sorprendente, scioccante o persino sbalorditiva: queste parole non rendono l’idea. Potrebbe addirittura morire.
Ma ecco la cosa interessante: se poi lui tornasse al 1750 e, invidioso del fatto che noi ci siamo goduti la sua reazione, decidesse di provare la stessa cosa, prenderebbe la macchina del tempo e tornerebbe indietro della stessa distanza; andrebbe a prendere qualcuno dell’anno 1500 circa, lo porterebbe nel 1750 e gli mostrerebbe tutto. E il tizio del 1500 rimarrebbe scioccato da molte cose, ma non morirebbe. Per lui sarebbe un’esperienza molto meno folle, perché sebbene il 1500 e il 1750 fossero epoche molto diverse, lo erano molto meno di quanto non lo siano il 1750 e il 2015. Il tizio del 1500 imparerebbe cose allucinanti sullo spazio e sulla fisica, rimarrebbe impressionato dalla dedizione dell’Europa in quella nuova moda dell’imperialismo e dovrebbe rivedere profondamente la sua concezione della mappa del mondo. Ma osservare la vita quotidiana del 1750 — i trasporti, le comunicazioni, ecc. — sicuramente non lo farebbe morire.
No, per divertirsi tanto quanto ci siamo divertiti noi con lui, il tizio del 1750 dovrebbe tornare molto più indietro, forse addirittura fino al 12 000 a.C. circa, prima che la prima rivoluzione agricola desse origine alle prime città e al concetto di civiltà. Se qualcuno proveniente da un mondo di puri cacciatori-raccoglitori — da un’epoca in cui gli esseri umani erano, più o meno, soltanto un’altra specie animale — vedesse i vasti imperi umani del 1750 con le loro chiese imponenti, le loro navi in grado di solcare gli oceani, il loro concetto di «stare al chiuso» e la loro enorme montagna di conoscenze e scoperte umane accumulate collettivamente, probabilmente morirebbe.
E se poi, dopo essere morto, lui diventasse invidioso e volesse fare la stessa cosa? Se tornasse indietro di 12 000 anni, al 24 000 a.C., prendesse un tizio e lo portasse nel 12 000 a.C., gli mostrerebbe tutto e il tizio direbbe: «Ok, qual è il punto? Chi se ne frega». Affinché il tizio del 12 000 a.C. potesse provare lo stesso divertimento, dovrebbe tornare indietro di oltre 100 000 anni e trovare qualcuno a cui mostrare il fuoco e il linguaggio per la prima volta.
Affinché qualcuno possa essere trasportato nel futuro e morire a causa dello shock che proverebbe, deve andare avanti nel tempo di un numero di anni sufficiente a raggiungere un «livello di progresso letale», ovvero un’Unità di Progresso Letale (UPL). Pertanto, un’UPL richiedeva oltre 100 000 anni nell’era dei cacciatori-raccoglitori, ma al ritmo post-rivoluzione agricola, ne sono bastati solo circa 12 000. Il mondo post-rivoluzione industriale si è evoluto così rapidamente che a una persona del 1750 basta andare avanti di un paio di secoli perché si verifichi un’UPL.
Questo schema — il progresso umano che accelera sempre di più col passare del tempo — è ciò che il futurista Ray Kurzweil definisce la Legge dei rendimenti accelerati della storia umana. Ciò accade perché le società più avanzate hanno la capacità di progredire a un ritmo più veloce rispetto a quelle meno avanzate — proprio perché sono più avanzate. L’umanità del XIX secolo aveva più conoscenze e disponeva di una tecnologia migliore rispetto a quella del XV secolo, quindi non sorprende che abbia compiuto molti più progressi nel XIX secolo rispetto al XV: l’umanità del XV secolo non poteva competere con quella del XIX.
Questo vale anche su scale più piccole. Il film Ritorno al futuro è uscito nel 1985 e «il passato» era ambientato nel 1955. Nel film, quando Michael J. Fox tornò nel 1955, fu colto alla sprovvista dalla novità dei televisori, dal prezzo delle bibite, dallo scarso apprezzamento per la chitarra elettrica stridula e dalle differenze nel gergo. Era un mondo diverso, certo — ma se il film venisse realizzato oggi e il passato fosse ambientato nel 1985, ci si potrebbe divertire molto di più con differenze molto più marcate. Il personaggio si troverebbe in un’epoca precedente ai personal computer, a Internet o ai cellulari: il Marty McFly di oggi, un adolescente nato alla fine degli anni ‘90, sarebbe molto più fuori posto nel 1985 di quanto lo fosse il Marty McFly del film nel 1955.
Questo avviene per lo stesso motivo di cui abbiamo appena discusso: la Legge dei rendimenti accelerati. Il tasso medio di progresso tra il 1985 e il 2015 è stato superiore a quello registrato tra il 1955 e il 1985 — poiché nel primo periodo citato il mondo era già più avanzato — quindi negli ultimi 30 anni si sono verificati molti più cambiamenti rispetto ai 30 precedenti.
Quindi i progressi stanno diventando sempre più grandi e avvengono sempre più rapidamente. Questo suggerisce prospettive piuttosto intense per il nostro futuro, vero?
Kurzweil suggerisce che il progresso dell’intero XX secolo sarebbe stato raggiunto in soli 20 anni al ritmo di avanzamento dell’anno 2000: in altre parole, nel 2000 il tasso di progresso era cinque volte più veloce del tasso medio di progresso durante il XX secolo. Egli ritiene che tra il 2000 e il 2014 si sia verificato un ulteriore progresso pari a quello dell’intero XX secolo e che un altro progresso pari a quello del XX secolo avverrà entro il 2021, in soli sette anni. Un paio di decenni più tardi, ritiene che un progresso equivalente a quello del XX secolo si verificherà più volte nello stesso anno e, ancora più avanti, in meno di un mese. Tutto sommato, grazie alla Legge dei rendimenti accelerati, Kurzweil ritiene che il XXI secolo raggiungerà un progresso pari a 1 000 volte quello del XX secolo.1
Se Kurzweil e coloro che concordano con lui hanno ragione, allora potremmo rimanere sbalorditi dal 2030 tanto quanto lo era dal 2015 il nostro uomo del 1750 — cioè la prossima UPL potrebbe richiedere solo un paio di decenni — e il mondo del 2050 potrebbe essere così profondamente diverso da quello odierno da risultare quasi irriconoscibile.
Questa non è fantascienza. È ciò in cui credono fermamente molti scienziati più intelligenti e competenti di te o di me — e, se si guarda alla storia, è ciò che dovremmo logicamente prevedere.
Allora perché, quando mi senti dire qualcosa del tipo «il mondo tra 35 anni potrebbe essere totalmente irriconoscibile», pensi: «Fico… ma nooooooo»? Tre ragioni per cui siamo scettici nei confronti delle previsioni stravaganti sul futuro:
1) Quando si tratta di storia, pensiamo per linee rette. Quando immaginiamo i progressi dei prossimi 30 anni, guardiamo ai 30 precedenti come indicatore di ciò che probabilmente accadrà. Quando pensiamo alla misura in cui il mondo cambierà nel XXI secolo, ci limitiamo a prendere i progressi del XX secolo e a sommarli all’anno 2000. Questo è lo stesso errore commesso dal nostro uomo del 1750, che prese qualcuno dal 1500 aspettandosi di sconvolgerlo tanto quanto lui stesso era rimasto sconvolto facendo un salto in avanti della stessa entità. Per noi è più intuitivo pensare in modo lineare, quando invece dovremmo pensare in modo esponenziale. Se qualcuno fosse più accorto, potrebbe prevedere i progressi dei prossimi 30 anni non guardando ai 30 precedenti, ma prendendo il ritmo di progresso attuale e basandosi su quello. Sarebbe più preciso, ma comunque molto fuori strada. Per pensare al futuro in modo corretto, bisogna immaginare che le cose procedano a un ritmo molto più veloce di quello attuale.
2) La traiettoria della storia molto recente spesso racconta una storia distorta. Innanzitutto, anche una curva esponenziale molto ripida sembra lineare quando se ne osserva solo una minuscola porzione; allo stesso modo, se si guarda da vicino un piccolo segmento di un enorme cerchio, questo appare quasi come una linea retta. In secondo luogo, la crescita esponenziale non è del tutto regolare e uniforme. Kurzweil spiega che il progresso avviene secondo «curve a S»:
L’onda del progresso crea una curva a S quando un nuovo paradigma si diffonde in tutto il mondo. La curva attraversa tre fasi:
- Crescita lenta (la fase iniziale della crescita esponenziale)
- Crescita rapida (la fase tardiva ed esplosiva della crescita esponenziale)
- Un livellamento man mano che il paradigma in questione matura2
Se guardiamo solo alla storia molto recente, il punto della curva a S in cui ci troviamo attualmente può offuscare la percezione della rapidità con cui avanzano le cose. Il periodo tra il 1995 e il 2007 ha visto l’esplosione di Internet, l’ingresso di Microsoft, Google e Facebook nella coscienza collettiva, la nascita dei social network e l’introduzione dei telefoni cellulari e poi degli smartphone. Quella era la Fase 2: la parte della curva a S caratterizzata da un’impennata di crescita. Ma il periodo tra il 2008 e il 2015 è stato meno rivoluzionario, almeno sul fronte tecnologico. Chi oggi riflette sul futuro potrebbe esaminare gli ultimi anni per valutare l’attuale ritmo di progresso, ma perderebbe di vista il quadro generale. In realtà, una nuova, enorme impennata di crescita della Fase 2 potrebbe essere in gestazione proprio in questo momento.
3) La nostra esperienza ci rende dei vecchi testardi rispetto al futuro. Basiamo le nostre idee sul mondo sull’esperienza personale, e quell’esperienza ha radicato nella nostra mente il ritmo di crescita del recente passato come «il modo in cui vanno le cose». Siamo inoltre limitati dalla nostra immaginazione, che attinge alla nostra esperienza per elaborare previsioni sul futuro — ma spesso, ciò che sappiamo semplicemente non ci fornisce gli strumenti per pensare al futuro con accuratezza.3 Quando sentiamo una previsione sul futuro che contraddice la nostra idea, basata sull’esperienza, di come funzionano le cose, d’istinto pensiamo che quella previsione debba essere ingenua. Se più avanti in questo post ti dicessi che potresti vivere fino a 150 anni, o 250, o non morire affatto, il tuo istinto sarà: «È una sciocchezza: se c’è una cosa che so dalla storia, è che tutti muoiono». E sì, in passato nessuno è sfuggito alla morte. Ma nessuno pilotava aerei prima che fossero inventati.
Quindi, anche se nahhhhh potrebbe sembrare sensato mentre leggi questo post, in realtà probabilmente è sbagliato. Il fatto è che, se vogliamo essere veramente logici e ci aspettiamo che gli schemi storici continuino, dovremmo concludere che nei prossimi decenni cambierà molto, molto, molto di più di quanto ci aspettiamo intuitivamente. La logica suggerisce anche che se la specie più avanzata su un pianeta continua a compiere balzi in avanti sempre più grandi a un ritmo sempre più veloce, a un certo punto farà un balzo così grande da alterare completamente la vita per come la conosce e la percezione che ha di cosa significhi essere umani — un po’ come l’evoluzione ha continuato a compiere grandi balzi verso l’intelligenza finché, alla fine, ha fatto un balzo così grande verso l’essere umano da alterare completamente il significato stesso di vivere sul pianeta Terra per qualsiasi creatura. E se dedichi un po’ di tempo a documentarti su ciò che sta accadendo oggi nella scienza e nella tecnologia, inizi a notare molti segnali che indicano silenziosamente che la vita per come la conosciamo attualmente non potrà resistere al balzo che sta per arrivare.
La strada verso la superintelligenza
Che cos’è l’intelligenza artificiale?
Se siete come me, un tempo pensavate che l’intelligenza artificiale fosse un ridicolo concetto da fantascienza, ma ultimamente ne avete sentito parlare da persone serie e non riuscite ancora a capirla del tutto.
Ci sono tre motivi per cui molte persone fanno confusione con il termine IA:
1) Associamo l’IA ai film. Star Wars. Terminator. 2001: Odissea nello spazio. Persino I pronipoti. Si tratta di opere di finzione, così come lo sono i personaggi robotici. Di conseguenza, l’IA ci sembra un concetto un po’ irreale.
2) L’IA è un argomento molto vasto. Spazia dalla calcolatrice del vostro telefono alle auto a guida autonoma, fino a qualcosa che in futuro potrebbe cambiare radicalmente il mondo. Il termine IA si riferisce a tutte queste cose, il che crea confusione.
3) Usiamo continuamente l’IA nella nostra vita quotidiana, ma spesso non ci rendiamo conto che si tratta di intelligenza artificiale. John McCarthy, che coniò il termine «intelligenza artificiale» nel 1956, si lamentava del fatto che «non appena funziona, nessuno la chiama più IA».4 A causa di questo fenomeno, l’IA sembra spesso più una mitica previsione del futuro che una realtà. Allo stesso tempo, questo la fa sembrare un concetto pop del passato che non si è mai concretizzato. Ray Kurzweil dice di sentir spesso affermare che l’IA sia appassita negli anni ‘80, e paragona la cosa a «insistere che Internet sia morto nel crollo delle dot-com dei primi anni 2000».5
Quindi facciamo chiarezza. Innanzitutto, smettiamo di pensare ai robot. Un robot è un contenitore per l’IA, che a volte imita la forma umana e a volte no — ma l’IA stessa è il computer all’interno del robot. L’IA è il cervello e il robot è il suo corpo — ammesso che ne abbia uno. Ad esempio, il software e i dati dietro a Siri sono IA, la voce femminile che sentiamo è una personificazione di quell’IA, e non c’è assolutamente alcun robot di mezzo.
In secondo luogo, probabilmente avrete sentito il termine «singolarità» o «singolarità tecnologica». Questo termine è stato usato in matematica per descrivere una situazione simile a un asintoto, in cui le normali regole non si applicano più. È stato usato in fisica per descrivere un fenomeno come un buco nero infinitamente piccolo e denso, o il punto in cui eravamo tutti schiacciati subito prima del Big Bang. Di nuovo, situazioni in cui le regole abituali non valgono. Nel 1993, Vernor Vinge scrisse un famoso saggio in cui applicò il termine al momento futuro in cui l’intelligenza della nostra tecnologia supererà la nostra — un momento in cui, per lui, la vita come la conosciamo cambierà per sempre e le normali regole non si applicheranno più. Ray Kurzweil ha poi confuso un po’ le acque definendo la singolarità come il momento in cui la Legge dei rendimenti accelerati avrà raggiunto un ritmo talmente estremo che il progresso tecnologico avverrà a una velocità apparentemente infinita, e dopo il quale vivremo in un mondo del tutto nuovo. Ho notato che molti degli attuali pensatori nel campo dell’IA hanno smesso di usare il termine, e che comunque genera confusione, quindi non lo userò molto in questa sede (anche se ci concentreremo su quell’idea per tutto il tempo).
Infine, sebbene esistano molti tipi o forme diverse di IA, dato che l’IA è un concetto ampio, le categorie fondamentali su cui dobbiamo riflettere si basano sul calibro di un’IA. Esistono tre principali categorie per il calibro di un’IA:
Livello di IA 1) Intelligenza artificiale ristretta (IAR): Talvolta indicata come IA debole, l’intelligenza artificiale ristretta è un’IA specializzata in un unico ambito. Esiste un’IA in grado di battere il campione mondiale di scacchi, ma questa è l’unica cosa che sa fare. Se le chiedi di trovare un modo migliore per archiviare i dati su un disco rigido, ti guarderà con aria perplessa.
Livello di IA 2) Intelligenza artificiale generale (IAG): Talvolta definita IA forte o IA di livello umano, l’intelligenza artificiale generale si riferisce a un computer intelligente quanto un essere umano in ogni ambito — una macchina in grado di svolgere qualsiasi compito intellettuale che un essere umano possa svolgere. Creare l’IAG è un compito molto più difficile rispetto alla creazione dell’IAR, e non ci siamo ancora riusciti. La professoressa Linda Gottfredson descrive l’intelligenza come «una capacità mentale molto generale che, tra le altre cose, comporta la capacità di ragionare, pianificare, risolvere problemi, pensare in modo astratto, comprendere idee complesse, imparare rapidamente e imparare dall’esperienza». L’IAG sarebbe in grado di fare tutte queste cose con la stessa facilità con cui le fai tu.
Livello di IA 3) Superintelligenza artificiale (SIA): Il filosofo di Oxford e importante pensatore nel campo dell’IA Nick Bostrom definisce la superintelligenza come «un intelletto che è molto più intelligente dei migliori cervelli umani praticamente in ogni campo, compresa la creatività scientifica, la saggezza generale e le abilità sociali». La superintelligenza artificiale spazia da un computer appena un po’ più intelligente di un essere umano a uno che lo è migliaia di miliardi di volte di più — in ogni ambito. La SIA è il motivo per cui il tema dell’IA è così scottante e perché le parole «immortalità» ed «estinzione» compariranno entrambe più volte in questi post.
Ad oggi, gli esseri umani hanno conquistato il livello più basso di IA — l’IAR — in molti modi, ed è ovunque. La Rivoluzione dell’IA è il percorso che va dall’IAR, passando per l’IAG, fino alla SIA — un percorso a cui potremmo sopravvivere o meno, ma che, in ogni caso, cambierà tutto.
Diamo un’occhiata da vicino a come i principali pensatori del settore immaginano questo percorso e perché questa rivoluzione potrebbe avvenire molto prima di quanto si pensi:
A che punto siamo oggi: un mondo alimentato dall’IAR
L’intelligenza artificiale ristretta (IAR) è un’intelligenza artificiale che eguaglia o supera l’intelligenza o l’efficienza umana in un compito specifico. Alcuni esempi:
- Le automobili sono piene di sistemi di IAR, dal computer che calcola quando devono attivarsi i freni antibloccaggio a quello che regola i parametri dei sistemi di iniezione del carburante. L’auto a guida autonoma di Google, attualmente in fase di test, conterrà sistemi di IAR avanzati che le consentiranno di percepire l’ambiente circostante e reagirvi.
- Il tuo telefono è una piccola fabbrica di IAR. Quando utilizzi l’app di navigazione, ricevi consigli musicali personalizzati da Pandora, controlli le previsioni del tempo per domani, parli con Siri o svolgi decine di altre attività quotidiane, stai utilizzando l’IAR.
- Il filtro antispam della tua posta elettronica è un classico esempio di IAR: all’inizio viene caricato con le informazioni necessarie a capire cosa sia spam e cosa no, dopodiché impara e adatta la sua intelligenza a te man mano che acquisisce esperienza con le tue preferenze specifiche. Il termostato Nest fa la stessa cosa, iniziando a capire la tua routine abituale per poi agire di conseguenza.
- Hai presente quella cosa inquietante che succede quando cerchi un prodotto su Amazon e poi te lo ritrovi come prodotto «consigliato per te» su un sito diverso, o quando Facebook in qualche modo sa chi avrebbe senso che tu aggiungessi agli amici? Si tratta di una rete di sistemi di IAR, che collaborano scambiandosi informazioni su chi sei e cosa ti piace, per poi usarle per decidere cosa mostrarti. Lo stesso vale per la sezione di Amazon «Chi ha acquistato questo articolo ha acquistato anche…»: è un sistema di IAR il cui compito è raccogliere informazioni dal comportamento di milioni di clienti e sintetizzarle per proporti scaltramente altri articoli, spingendoti a comprare più cose.
- Google Traduttore è un altro classico sistema IAR, incredibilmente abile in un compito circoscritto. Il riconoscimento vocale ne è un altro, e ci sono un mucchio di app che usano queste due IAR in tandem, permettendoti di pronunciare una frase in una lingua e di far sì che il telefono restituisca la stessa frase in un’altra.
- Quando il tuo aereo atterra, non è un essere umano a decidere a quale gate debba dirigersi. Proprio come non è un essere umano a determinare il prezzo del tuo biglietto.
- I migliori giocatori al mondo di dama, scacchi, Scarabeo, backgammon e Othello sono ormai tutti sistemi di IAR.
- La ricerca di Google è un unico grande cervello di IAR dotato di metodi incredibilmente sofisticati per classificare le pagine e capire cosa mostrarti di preciso. Lo stesso vale per il Newsfeed di Facebook.
- E questo solo nel mondo dei consumatori. Sofisticati sistemi di IAR sono ampiamente utilizzati in settori e industrie come quello militare, manifatturiero e finanziario (i trader algoritmici ad alta frequenza basati sull’IA rappresentano più della metà delle azioni negoziate sui mercati statunitensi6), e in sistemi esperti come quelli che aiutano i medici a formulare diagnosi e, il più famoso, Watson di IBM, che conteneva abbastanza nozioni e comprendeva il linguaggio sibillino di Trebek abbastanza bene da battere nettamente i più grandi campioni di Jeopardy.
I sistemi di IAR, così come sono oggi, non sono particolarmente spaventosi. Nel peggiore dei casi, un sistema di IAR difettoso o mal programmato può causare una catastrofe isolata, come il collasso di una rete elettrica, un malfunzionamento pericoloso in una centrale nucleare o il verificarsi di un disastro sui mercati finanziari (come il Flash Crash del 2010, quando un programma di IAR ha reagito in modo errato a una situazione imprevista, provocando un breve crollo del mercato azionario che ha comportato una perdita di mille miliardi di dollari di valore di mercato, di cui solo una parte è stata recuperata una volta corretto l’errore).
Ma sebbene l’IAR non abbia la capacità di causare una minaccia esistenziale, dovremmo considerare questo ecosistema sempre più vasto e complesso di IAR relativamente innocue come un precursore dell’uragano in arrivo che muterà il mondo. Ogni nuova innovazione nell’ambito dell’IAR aggiunge silenziosamente un altro mattone sulla strada verso l’IAG e la SIA. Oppure, come osserva Aaron Saenz, i sistemi di IAR del nostro mondo «sono come gli amminoacidi nel brodo primordiale della Terra primitiva» — la materia inanimata della vita che, un giorno inaspettato, si è risvegliata.
Il percorso dall’IAR all’IAG
Perché è così difficile
Niente ti farà apprezzare l’intelligenza umana quanto scoprire come sia incredibilmente difficile cercare di creare un computer intelligente quanto noi. Costruire grattacieli, mandare esseri umani nello spazio, capire nel dettaglio come sia avvenuto il Big Bang: è tutto molto più facile rispetto a comprendere il nostro stesso cervello o a capire come realizzare qualcosa di altrettanto straordinario. Ad oggi, il cervello umano è l’oggetto più complesso dell’universo conosciuto.
La cosa interessante è che gli aspetti difficili nel cercare di costruire un’IAG (un computer intelligente quanto gli esseri umani in generale, non solo in un ambito specifico) non sono intuitivamente quelli che ci si aspetterebbe. Costruire un computer in grado di moltiplicare due numeri di dieci cifre in una frazione di secondo: incredibilmente facile. Costruirne uno in grado di guardare un cane e stabilire se si tratti di un cane o di un gatto: incredibilmente difficile. Creare un’IA in grado di battere qualsiasi essere umano a scacchi? Fatto. Crearne una in grado di leggere un paragrafo da un libro illustrato per bambini di sei anni e non solo riconoscerne le parole, ma comprenderne il significato? Al momento Google sta spendendo miliardi di dollari per riuscirci. Le cose difficili — come l’analisi matematica, le strategie dei mercati finanziari e la traduzione linguistica — sono di una facilità disarmante per un computer, mentre le cose facili — come la vista, il movimento e la percezione — risultano per lui follemente complesse. O, per dirla come l’informatico Donald Knuth: «L’IA è ormai riuscita a fare praticamente tutto ciò che richiede di “pensare”, ma non è riuscita a fare gran parte di ciò che le persone e gli animali fanno “senza pensare”».7
Riflettendoci, si capisce subito che le cose che a noi sembrano facili sono in realtà incredibilmente complicate, e ci appaiono tali solo perché queste abilità sono state ottimizzate in noi (e nella maggior parte degli animali) da centinaia di milioni di anni di evoluzione. Quando allunghi la mano verso un oggetto, i muscoli, i tendini e le ossa di spalla, il gomito e il polso eseguono all’istante una lunga serie di operazioni fisiche, in coordinamento con gli occhi, per consentirti di muovere la mano in linea retta in tre dimensioni. Ti sembra un’azione priva di sforzo perché nel tuo cervello disponi di un software perfezionato per compierla. Lo stesso principio spiega perché non è il malware a essere stupido se non riesce a decifrare il test di riconoscimento delle parole inclinate quando ti registri su un nuovo sito: è il tuo cervello a essere straordinario per il solo fatto di riuscirci.
D’altra parte, moltiplicare grandi numeri o giocare a scacchi sono attività nuove per le creature biologiche e non abbiamo avuto il tempo di sviluppare una competenza al riguardo per via evolutiva, perciò un computer non deve faticare troppo per batterci. Pensaci: cosa preferiresti fare, creare un programma in grado di moltiplicare grandi numeri o uno capace di comprendere l’essenza di una «B» così a fondo da potergli mostrare una «B» in uno qualsiasi tra migliaia di caratteri tipografici o grafie imprevedibili e fargli riconoscere all’istante che si tratta di una «B»?
Un esempio divertente: quando guardate questa immagine, sia voi che un computer riuscite a capire che si tratta di un rettangolo con due tonalità distinte, alternate:
Fin qui siamo in parità. Ma se sollevate la parte nera e rivelate l’intera immagine…
…non hai alcun problema a fornire una descrizione completa dei vari cilindri opachi e traslucidi, delle doghe e degli angoli tridimensionali, ma il computer fallirebbe miseramente. Descriverebbe ciò che vede — una varietà di forme bidimensionali in diverse sfumature — che poi è effettivamente ciò che c’è. Il tuo cervello compie un mucchio di operazioni complesse per interpretare la profondità implicita, le sfumature di colore e l’illuminazione della stanza che l’immagine cerca di rappresentare.8 E guardando l’immagine qui sotto, un computer vede un collage bidimensionale bianco, nero e grigio, mentre tu vedi facilmente ciò che è realmente: la foto di una roccia tridimensionale completamente nera:
E tutto ciò che abbiamo appena menzionato si limita ancora ad acquisire informazioni statiche e a elaborarle. Per avere un’intelligenza di livello umano, un computer dovrebbe comprendere cose come la differenza tra sottili espressioni facciali, la distinzione tra sentirsi compiaciuti, sollevati, appagati, soddisfatti e felici, e perché Braveheart era fantastico mentre The Patriot era terribile.
Un’impresa ardua.
Allora, come ci arriviamo?
Prima chiave per creare l’IAG: aumentare la potenza di calcolo
Una cosa che deve assolutamente accadere affinché l’IAG diventi possibile è un aumento della potenza dell’hardware dei computer. Se un sistema di IA dovrà essere intelligente quanto il cervello, dovrà eguagliarne la potenza di calcolo grezza.
Un modo per esprimere questa capacità è il numero totale di calcoli per secondo (cps) che il cervello potrebbe gestire; si potrebbe arrivare a questa cifra calcolando i cps massimi di ciascuna struttura del cervello e poi sommandoli tutti.
Ray Kurzweil ha escogitato una scorciatoia prendendo la stima di un esperto relativa ai cps di una struttura e il peso di quest’ultima rispetto a quello dell’intero cervello, per poi moltiplicare in proporzione in modo da ottenere una stima del totale. Sembra un po’ azzardato, ma lo ha fatto svariate volte con diverse stime di esperti relative a varie regioni, e il totale è sempre rientrato nello stesso ordine di grandezza: circa 1016, ovvero 10 milioni di miliardi di cps.
Attualmente, il supercomputer più veloce al mondo, il cinese Tianhe-2, ha effettivamente superato questa cifra, raggiungendo circa 34 milioni di miliardi di cps. Ma il Tianhe-2 è anche una bella bestia: occupa 720 metri quadrati di spazio, consuma 24 megawatt di energia (il cervello funziona con soli 20 watt) e la sua costruzione è costata 390 milioni di dollari. Non è ancora particolarmente adatto a un utilizzo su larga scala, né tantomeno alla maggior parte degli impieghi commerciali o industriali.
Kurzweil suggerisce di valutare lo stato dei computer osservando quanti cps si possono acquistare con 1 000 dollari. Quando quel numero raggiungerà il livello umano — 10 milioni di miliardi di cps — significherà che l’IAG potrebbe diventare una parte molto concreta della vita.
La legge di Moore è una regola storicamente affidabile secondo cui la potenza di calcolo massima a livello mondiale raddoppia approssimativamente ogni due anni, il che significa che il progresso dell’hardware informatico, proprio come il progresso umano in generale nel corso della storia, cresce in modo esponenziale. Osservando come ciò si colleghi al parametro cps/1.000$ di Kurzweil, attualmente ci troviamo a circa 10 bilioni di cps/1.000$, perfettamente in linea con la traiettoria prevista da questo grafico:9
Quindi i computer da 1.000 dollari in tutto il mondo stanno ormai superando il cervello di un topo e si trovano a circa un millesimo del livello umano. Questo non sembra granché finché non ci si ricorda che nel 1985 eravamo a circa un bilionesimo del livello umano, a un miliardesimo nel 1995 e a un milionesimo nel 2005. Essere a un millesimo nel 2015 ci pone esattamente sulla buona strada per arrivare, entro il 2025, a un computer accessibile che rivaleggi con la potenza del cervello.
Quindi, dal punto di vista dell’hardware, la potenza grezza necessaria per l’IAG è tecnicamente già disponibile oggi, in Cina, e saremo pronti per un hardware di livello IAG accessibile e diffuso entro 10 anni. Ma la potenza di calcolo grezza da sola non rende un computer generalmente intelligente; la domanda successiva è: come portiamo l’intelligenza di livello umano a tutta quella potenza?
Seconda chiave per creare l’IAG: renderla intelligente
Questa è la parte spinosa. La verità è che nessuno sa davvero come renderla intelligente: stiamo ancora discutendo su come rendere un computer intelligente a livello umano e capace di capire cosa siano un cane, una «B» scritta in modo strano e un film mediocre. Ma ci sono in giro un mucchio di strategie improbabili e, a un certo punto, una di queste funzionerà. Ecco le tre strategie più comuni in cui mi sono imbattuto:
1) Copiare il cervello
È come se gli scienziati si arrovellassero per capire come faccia il ragazzino seduto accanto a loro in classe a essere così intelligente e a prendere voti così alti nei test; e anche se continuano a studiare diligentemente, non riescono nemmeno ad avvicinarsi ai suoi risultati, finché alla fine decidono: «Ok, fanculo, gli copio le risposte e basta». Ha senso: siamo a un punto morto nel tentativo di costruire un computer supercomplesso, e guarda caso ce n’è un prototipo perfetto proprio nella testa di ognuno di noi.
Il mondo scientifico sta lavorando sodo all’ingegneria inversa del cervello per capire come l’evoluzione abbia creato una cosa così straordinaria—stime ottimistiche dicono che potremo riuscirci entro il 2030. Una volta fatto ciò, conosceremo tutti i segreti di come il cervello funziona in modo così potente ed efficiente e potremo trarne ispirazione e rubarne le innovazioni. Un esempio di architettura informatica che imita il cervello è la rete neurale artificiale. Inizia come una rete di «neuroni» a transistor, collegati tra loro tramite input e output, e non sa nulla — proprio come il cervello di un neonato. Il modo in cui «impara» consiste nel tentare di svolgere un compito, ad esempio il riconoscimento della scrittura a mano, e all’inizio le sue scariche neurali e le successive ipotesi per decifrare ogni lettera saranno completamente casuali. Ma quando le viene comunicato che ha indovinato, le connessioni tra i transistor nei percorsi di attivazione che hanno casualmente generato quella risposta vengono rafforzate; quando le viene comunicato che ha sbagliato, le connessioni di quei percorsi vengono indebolite. Dopo numerose prove e feedback, la rete ha formato autonomamente percorsi neurali intelligenti e la macchina risulta ottimizzata per il compito. Il cervello impara in modo simile, ma in maniera più sofisticata, e man mano che continuiamo a studiarlo, scopriamo nuovi modi ingegnosi per sfruttare i circuiti neurali.
Una forma più estrema di plagio prevede una strategia chiamata «emulazione completa del cervello», in cui l’obiettivo è sezionare un cervello reale in strati sottili, scansionarli uno per uno, utilizzare un software per assemblare un modello 3D accuratamente ricostruito e quindi implementare il modello su un computer potente. Avremmo così un computer ufficialmente in grado di fare tutto ciò di cui è capace il cervello: dovrebbe solo imparare e raccogliere informazioni. Se gli ingegneri diventassero davvero bravi, sarebbero in grado di emulare un cervello reale con una precisione tale che l’intera personalità e memoria del cervello rimarrebbero intatte una volta caricata l’architettura cerebrale su un computer. Se il cervello appartenesse a Jim poco prima della sua morte, il computer ora si risveglierebbe come Jim (?), il quale costituirebbe una solida IAG di livello umano, e potremmo quindi lavorare per trasformare Jim in una SIA incredibilmente intelligente, cosa di cui lui stesso sarebbe probabilmente molto entusiasta.
Quanto siamo lontani dal raggiungere l’emulazione completa del cervello? Ebbene, finora non siamo ancora riusciti solo di recente a emulare il cervello di un verme piatto lungo 1 mm, composto da soli 302 neuroni in totale. Il cervello umano ne contiene 100 miliardi. Se questo fa sembrare il progetto irrealizzabile, ricordate il potere del progresso esponenziale: ora che abbiamo conquistato il minuscolo cervello del verme, tra non molto potrebbe essere il turno di una formica, seguita da un topo, e all’improvviso tutto questo sembrerà molto più plausibile.
2) Provare a far fare all’evoluzione quello che ha fatto in passato, ma questa volta per noi
Quindi, se decidiamo che il compito del ragazzo intelligente è troppo difficile da copiare, possiamo provare invece a copiare il modo in cui studia per i compiti.
Ecco una cosa che sappiamo. Costruire un computer potente quanto il cervello è possibile: l’evoluzione del nostro stesso cervello ne è la prova. E se il cervello fosse semplicemente troppo complesso per essere emulato, potremmo provare invece a emulare l’evoluzione. Il fatto è che, anche se riuscissimo a emulare un cervello, sarebbe come cercare di costruire un aeroplano copiando il battito d’ali di un uccello: spesso le macchine vengono progettate meglio utilizzando un approccio nuovo e orientato alle macchine, non imitando alla lettera la biologia.
Quindi, come possiamo simulare l’evoluzione per costruire un’IAG? Il metodo, chiamato «algoritmi genetici», funzionerebbe più o meno così: ci sarebbe un processo di esecuzione e valutazione ripetuto continuamente (allo stesso modo in cui le creature biologiche «agiscono» vivendo la propria vita e vengono «valutate» in base al fatto che riescano o meno a riprodursi). Un gruppo di computer cercherebbe di svolgere dei compiti, e quelli di maggior successo verrebbero incrociati tra loro, fondendo metà della programmazione di ciascuno in un nuovo computer. Quelli meno efficaci verrebbero eliminati. Nel corso di moltissime iterazioni, questo processo di selezione naturale produrrebbe computer sempre migliori. La sfida consisterebbe nel creare un ciclo automatizzato di valutazione e incrocio, in modo che questo processo evolutivo possa procedere autonomamente.
Lo svantaggio di copiare l’evoluzione è che all’evoluzione piace impiegare un miliardo di anni per fare le cose, mentre noi vogliamo farlo in pochi decenni.
Ma abbiamo molti vantaggi rispetto all’evoluzione. Innanzitutto, l’evoluzione non ha lungimiranza e opera in modo casuale: produce più mutazioni inutili che utili, mentre noi controlleremmo il processo in modo che sia guidato solo da anomalie benefiche e modifiche mirate. In secondo luogo, l’evoluzione non mira a nulla, intelligenza compresa: a volte un ambiente potrebbe persino selezionare contro un’intelligenza superiore (poiché consuma molta energia). Noi, d’altra parte, potremmo indirizzare specificamente questo processo evolutivo verso l’aumento dell’intelligenza. In terzo luogo, per selezionare l’intelligenza, l’evoluzione deve innovare in molti altri modi per favorirla — come rivoluzionare il modo in cui le cellule producono energia — mentre noi possiamo eliminare questi carichi superflui e ricorrere a cose come l’elettricità. Non c’è dubbio che saremmo molto, molto più veloci dell’evoluzione — ma non è ancora chiaro se saremo in grado di fare meglio dell’evoluzione abbastanza da rendere questa strategia praticabile.
3) Trasformare l’intera faccenda in un problema del computer, non nostro
Questo è il momento in cui gli scienziati si disperano e cercano di programmare il test affinché si completi da solo. Ma potrebbe essere il metodo più promettente a nostra disposizione.
L’idea è quella di costruire un computer le cui due competenze principali sarebbero fare ricerca sull’IA e programmare modifiche su se stesso, consentendogli non solo di imparare, ma anche di migliorare la propria architettura. Insegneremmo ai computer a diventare scienziati informatici, in modo che possano avviare autonomamente il proprio sviluppo. E questo sarebbe il loro compito principale: capire come rendere se stessi più intelligenti. Ne parleremo più avanti.
Tutto questo potrebbe accadere presto
I rapidi progressi nell’hardware e la sperimentazione innovativa nel software avvengono contemporaneamente, e l’IAG potrebbe coglierci di sorpresa in modo rapido e inaspettato per due ragioni principali:
1) La crescita esponenziale è intensa e quello che sembra un progresso a passo di lumaca può rapidamente impennarsi—questa GIF illustra bene il concetto:
2) Quando si parla di software, il progresso può sembrare lento, ma poi un’illuminazione può cambiare all’istante il ritmo di avanzamento (un po’ come la scienza che, nel periodo in cui gli esseri umani credevano in un universo geocentrico, faticava a calcolarne il funzionamento, finché la scoperta del sistema eliocentrico ha reso improvvisamente tutto molto più semplice). Oppure, quando si ha a che fare con un computer che si migliora da solo, potremmo sembrare lontani dal traguardo, ma in realtà potrebbe bastare un singolo ritocco del sistema per renderlo 1 000 volte più efficace e farlo balzare verso un’intelligenza di livello umano.
Il percorso dall’IAG alla SIA
A un certo punto, avremo raggiunto l’IAG: computer con un’intelligenza generale di livello umano. Solo un gruppo di persone e computer che convivono in condizioni di parità.
Oh, in realtà per niente.
Il fatto è che un’IAG con un livello di intelligenza e di capacità di calcolo identico a quello di un essere umano avrebbe comunque dei vantaggi significativi rispetto agli esseri umani. Ad esempio:
Hardware:
- Velocità. I neuroni del cervello arrivano al massimo a circa 200 Hz, mentre i microprocessori odierni (che sono molto più lenti di quanto lo saranno quando raggiungeremo l’IAG) operano a 2 GHz, ovvero sono 10 milioni di volte più veloci dei nostri neuroni. Inoltre, le comunicazioni interne del cervello, che possono viaggiare a circa 120 m/s, non possono minimamente competere con la capacità di un computer di comunicare otticamente alla velocità della luce.
- Dimensioni e archiviazione. Il cervello è limitato nelle dimensioni dalla forma del nostro cranio e non potrebbe comunque crescere molto di più, altrimenti le comunicazioni interne a 120 m/s impiegherebbero troppo tempo per passare da una struttura cerebrale all’altra. I computer possono espandersi fino a raggiungere qualsiasi dimensione fisica, consentendo di impiegare molto più hardware, una memoria di lavoro (RAM) molto più capiente e una memoria a lungo termine (archiviazione su disco rigido) dotata di capacità e precisione di gran lunga superiori alle nostre.
- Affidabilità e durata. Non è solo la memoria di un computer a essere più precisa. I transistor dei computer sono più accurati dei neuroni biologici e sono meno soggetti a deterioramento (e possono essere riparati o sostituiti in caso di guasto). Inoltre, il cervello umano si affatica facilmente, mentre i computer possono funzionare senza sosta, al massimo delle prestazioni, 24 ore su 24, 7 giorni su 7.
Software:
- Modificabilità, aggiornabilità e un più ampio ventaglio di possibilità. A differenza del cervello umano, il software dei computer può ricevere aggiornamenti e correzioni, e può essere facilmente sottoposto a test. Gli aggiornamenti potrebbero estendersi anche a quegli ambiti in cui il cervello umano è carente. Il software della visione umana è straordinariamente avanzato, mentre le sue complesse capacità ingegneristiche sono piuttosto modeste. I computer potrebbero eguagliare l’essere umano nel software di visione, ma potrebbero anche diventare altrettanto ottimizzati nell’ingegneria e in qualsiasi altro settore.
- Capacità collettiva. Gli esseri umani sbaragliano tutte le altre specie nella costruzione di una vasta intelligenza collettiva. Iniziando con lo sviluppo del linguaggio e la formazione di comunità ampie e dense, passando per l’invenzione della scrittura e della stampa, per arrivare all’attuale potenziamento tramite strumenti come Internet, l’intelligenza collettiva dell’umanità è uno dei motivi principali per cui siamo riusciti a distanziare così tanto tutte le altre specie. E i computer ci riusciranno molto meglio di noi. Una rete mondiale di IA che esegue un programma specifico potrebbe sincronizzarsi regolarmente con se stessa, in modo che qualsiasi cosa appresa da un singolo computer venga immediatamente caricata su tutti gli altri. Il gruppo potrebbe anche perseguire un unico obiettivo come entità unitaria, poiché non vi sarebbero necessariamente opinioni discordanti, motivazioni differenti e interessi personali, come accade invece nella popolazione umana.10
L’IA, che probabilmente raggiungerà l’IAG essendo programmata per auto-migliorarsi, non considererebbe l’«intelligenza di livello umano» come un traguardo importante — è un indicatore rilevante solo dal nostro punto di vista — e non avrebbe alcun motivo di «fermarsi» al nostro livello. E considerati i vantaggi su di noi che avrebbe anche un’IAG con un’intelligenza equivalente a quella umana, è piuttosto ovvio che raggiungerebbe il nostro livello solo per un breve istante prima di sfrecciare oltre, verso il regno dell’intelligenza superiore a quella umana.
Questo potrebbe sconvolgerci di brutto quando accadrà. Il motivo è che, dal nostro punto di vista, A) sebbene l’intelligenza delle diverse specie animali vari, la caratteristica principale che notiamo nell’intelligenza di qualsiasi animale è che è di gran lunga inferiore alla nostra, e B) consideriamo le persone più intelligenti MOLTO più intelligenti di quelle più stupide. Più o meno così:
Quindi, man mano che l’IA si avvicinerà vertiginosamente a noi in termini di intelligenza, ci sembrerà semplicemente che diventi più intelligente, per essere un animale. Poi, quando raggiungerà il livello più basso delle capacità umane — Nick Bostrom usa l’espressione «l’idiota del villaggio» — diremo: «Oh wow, è come un umano stupido. Che carina!» Il fatto è che, nel grande spettro dell’intelligenza, tutti gli esseri umani, dall’idiota del villaggio a Einstein, rientrano in un intervallo molto ristretto — quindi subito dopo aver raggiunto il livello dell’idiota del villaggio ed essere stata dichiarata IAG, diventerà improvvisamente più intelligente di Einstein e non sapremo nemmeno cosa ci sia successo:
E cosa succede… dopo?
Un’esplosione di intelligenza
Spero che vi siate goduti la normalità, perché è a questo punto che l’argomento diventa anormale e spaventoso, e lo rimarrà d’ora in avanti. Vorrei fare una pausa qui per ricordarvi che ogni singola cosa che sto per dire è reale: vera scienza e vere previsioni sul futuro provenienti da un ampio ventaglio dei pensatori e scienziati tra i più rispettati. Continuate a tenerlo a mente.
Ad ogni modo, come ho detto sopra, la maggior parte dei nostri attuali modelli per arrivare all’IAG prevede che l’IA ci arrivi attraverso l’auto-miglioramento. E una volta raggiunta l’IAG, anche i sistemi formati e sviluppati con metodi che non prevedevano l’auto-miglioramento sarebbero ormai abbastanza intelligenti da iniziare ad auto-migliorarsi, se lo volessero.11
Ed è qui che arriviamo a un concetto intenso: l’auto-miglioramento ricorsivo. Funziona così—
Un sistema di IA a un certo livello — diciamo l’idiota del villaggio umano — viene programmato con l’obiettivo di migliorare la propria intelligenza. Una volta che ci riesce, è più intelligente — forse a questo punto si trova al livello di Einstein — perciò ora, quando lavora per migliorare la propria intelligenza potendo contare su un intelletto pari a quello di Einstein, fa meno fatica e può compiere balzi più grandi. Questi balzi lo rendono molto più intelligente di qualsiasi essere umano, consentendogli di compiere balzi ancora più grandi. Man mano che i balzi si fanno più ampi e si susseguono più rapidamente, l’IAG s’innalza vertiginosamente in intelligenza e raggiunge presto il livello di superintelligenza di un sistema di SIA. Questa viene definita esplosione di intelligenza,12 ed è l’esempio per eccellenza della Legge dei rendimenti accelerati.
C’è un certo dibattito su quanto presto l’IA raggiungerà un’intelligenza generale di livello umano. L’anno mediano emerso da un sondaggio condotto su centinaia di scienziati riguardo a quando, secondo loro, avremmo raggiunto l’IAG con una probabilità superiore al 50% era il 204013 — sono solo 25 anni da oggi, un arco di tempo che non sembra così lungo finché non si considera che molti studiosi del settore ritengono probabile che il passaggio dall’IAG alla SIA avvenga molto rapidamente. Ad esempio, potrebbe succedere questo:
Ci vogliono decenni perché il primo sistema di IA raggiunga un’intelligenza generale di basso livello, ma alla fine succede. Un computer è in grado di comprendere il mondo che lo circonda bene quanto un bambino di quattro anni. Improvvisamente, entro un’ora dal raggiungimento di quel traguardo, il sistema elabora la grande teoria della fisica che unifica la relatività generale e la meccanica quantistica, cosa che nessun essere umano è mai riuscito a fare in modo definitivo. 90 minuti dopo, l’IA è diventata una SIA, 170 000 volte più intelligente di un essere umano.
Una superintelligenza di tale portata è qualcosa che non possiamo nemmeno lontanamente comprendere, non più di quanto un calabrone possa concepire l’economia keynesiana. Nel nostro mondo, «intelligente» significa avere un QI di 130 e «stupido» averne uno di 85: non abbiamo una parola per un QI di 12 952.
Quello che sappiamo è che il dominio assoluto degli esseri umani su questa Terra suggerisce una regola chiara: l’intelligenza porta con sé il potere. Il che significa che una SIA, quando la creeremo, sarà l’essere più potente nella storia della vita sulla Terra e tutti gli esseri viventi, umani compresi, saranno interamente in balia dei suoi capricci — e questo potrebbe accadere nei prossimi decenni.
Se i nostri modesti cervelli sono stati in grado di inventare il Wi-Fi, allora qualcosa di 100, 1 000 o 1 miliardo di volte più intelligente di noi non dovrebbe avere alcun problema a controllare la posizione di ogni singolo atomo nel mondo in qualsiasi modo desideri, in qualsiasi momento: tutto ciò che consideriamo magia, ogni potere che immaginiamo possieda un Dio supremo sarà per la SIA un’attività banale quanto lo è per noi accendere un interruttore della luce. Creare la tecnologia per invertire l’invecchiamento umano, curare le malattie, la fame e persino la mortalità, riprogrammare il clima per proteggere il futuro della vita sulla Terra: tutto questo diventerà improvvisamente possibile. Altrettanto possibile è la fine immediata di ogni forma di vita sulla Terra. Per quanto ci riguarda, se dovesse nascere una SIA, sulla Terra esisterebbe a tutti gli effetti un Dio onnipotente — e la domanda fondamentale per noi è:
Sarà un Dio benevolo?
Questo è l’argomento della Parte 2 di questo post.
(Fonti in fondo alla Parte 2.)
Post correlati su Wait But Why
Il paradosso di Fermi – Perché non vediamo alcun segno di vita aliena?
Come (e perché) SpaceX colonizzerà Marte – Un post a cui ho avuto l’opportunità di lavorare con Elon Musk e che ha ridefinito la mia visione del futuro.
Oppure, per qualcosa di completamente diverso eppure in qualche modo correlato, Perché i procrastinatori procrastinano.
Ed ecco Il primo anno di Wait But Why in formato ebook.