La dolce singolarità
Abbiamo superato l’orizzonte degli eventi; il decollo è iniziato. L’umanità è vicina alla creazione di una superintelligenza digitale e, almeno finora, tutto ciò è molto meno strano di quanto ci si aspetterebbe.
I robot non camminano ancora per le strade, né la maggior parte di noi parla con l’IA tutto il giorno. Le persone muoiono ancora di malattie, non riusciamo ancora ad andare facilmente nello spazio e ci sono molti aspetti dell’universo che non comprendiamo.
Eppure, di recente abbiamo creato sistemi che per molti versi sono più intelligenti degli esseri umani e in grado di amplificare in modo significativo il rendimento di chi li utilizza. La parte più incerta del lavoro è ormai alle nostre spalle; le intuizioni scientifiche che ci hanno condotto a sistemi come GPT-4 e o3 sono state conquistate a fatica, ma ci porteranno molto lontano.
L’IA contribuirà al mondo in molti modi, ma i benefici per la qualità della vita che deriveranno dall’accelerazione del progresso scientifico e dall’aumento della produttività saranno enormi; il futuro può essere di gran lunga migliore del presente. Il progresso scientifico è il principale motore del progresso complessivo; è incredibilmente entusiasmante pensare a quanto ancora potremmo ottenere.
Per certi versi importanti, ChatGPT è già più potente di qualsiasi essere umano mai vissuto. Centinaia di milioni di persone vi si affidano ogni giorno e per compiti sempre più importanti; una piccola nuova capacità può avere un impatto estremamente positivo; un piccolo disallineamento moltiplicato per centinaia di milioni di persone può avere un enorme impatto negativo.
Il 2025 ha visto l’arrivo di agenti in grado di svolgere un vero e proprio lavoro cognitivo; la scrittura di codice per computer non sarà mai più la stessa. Il 2026 vedrà probabilmente l’arrivo di sistemi in grado di elaborare intuizioni innovative. Il 2027 potrebbe vedere l’arrivo di robot in grado di svolgere compiti nel mondo reale.
Molte più persone saranno in grado di creare software e arte. Ma il mondo ne vuole molto di più, di entrambi, e gli esperti continueranno probabilmente a essere molto più bravi dei principianti, a condizione che adottino i nuovi strumenti. In generale, il fatto che una singola persona possa fare molto di più nel 2030 di quanto potesse nel 2020 sarà un cambiamento sorprendente, e in molti capiranno come trarne vantaggio.
Sotto gli aspetti più importanti, gli anni 2030 potrebbero non essere poi così diversi. Le persone continueranno ad amare le proprie famiglie, a esprimere la propria creatività, a giocare e a nuotare nei laghi.
Ma sotto altri aspetti, pur sempre molto importanti, gli anni 2030 saranno probabilmente del tutto diversi da qualsiasi epoca precedente. Non sappiamo fino a che punto potremo spingerci oltre l’intelligenza di livello umano, ma stiamo per scoprirlo.
Negli anni 2030, l’intelligenza e l’energia — le idee e la capacità di realizzarle — diventeranno incredibilmente abbondanti. Questi due fattori hanno rappresentato a lungo i limiti fondamentali al progresso umano; con intelligenza ed energia in abbondanza (e una buona governance), in teoria potremo avere qualsiasi altra cosa.
Già oggi conviviamo con un’incredibile intelligenza digitale e, dopo uno shock iniziale, la maggior parte di noi vi si è ormai abituata. In pochissimo tempo passiamo dallo stupirci che l’IA sappia generare un paragrafo scritto magnificamente al chiederci quando saprà generare un romanzo scritto magnificamente; oppure dallo stupirci che sappia formulare diagnosi mediche salvavita al chiederci quando saprà svilupparne le cure; oppure dallo stupirci che sappia creare un piccolo programma per computer al chiederci quando saprà fondare un’intera nuova azienda. Ecco come procede la singolarità: le meraviglie diventano routine, e poi la norma.
Gli scienziati ci dicono già di essere due o tre volte più produttivi di quanto non fossero prima dell’IA. L’IA avanzata è interessante per molte ragioni, ma forse nulla è tanto significativo quanto il fatto che possiamo usarla per accelerare la ricerca sull’IA stessa. Potremmo essere in grado di scoprire nuovi substrati di calcolo, algoritmi migliori e chissà cos’altro. Se riuscissimo a svolgere in un anno, o in un mese, la ricerca di un intero decennio, il ritmo del progresso sarebbe ovviamente ben diverso.
Da questo momento in poi, gli strumenti che abbiamo già costruito ci aiuteranno a trovare ulteriori intuizioni scientifiche e ci assisteranno nella creazione di sistemi di IA migliori. Naturalmente non è la stessa cosa di un sistema di IA che aggiorna il proprio codice in modo del tutto autonomo, ma si tratta pur sempre di una versione embrionale di auto-miglioramento ricorsivo.
Ci sono anche altri cicli di auto-rinforzo all’opera. La creazione di valore economico ha innescato un volano di sviluppo infrastrutturale cumulativo per far funzionare questi sistemi di IA sempre più potenti. E i robot in grado di costruire altri robot (e, in un certo senso, i centri di calcolo in grado di costruire altri centri di calcolo) non sono poi così lontani.
Se dobbiamo costruire il primo milione di robot umanoidi alla vecchia maniera, ma poi questi possono gestire l’intera catena di approvvigionamento — estraendo e raffinando minerali, guidando camion, gestendo fabbriche, ecc. — per costruire altri robot, i quali possono costruire a loro volta altri impianti di produzione di chip, centri di calcolo, ecc., allora il ritmo del progresso sarà ovviamente ben diverso.
Man mano che la produzione dei centri di calcolo verrà automatizzata, il costo dell’intelligenza dovrebbe alla fine convergere verso valori prossimi al costo dell’elettricità. (Spesso le persone sono curiose di sapere quanta energia consumi una query su ChatGPT; in media, una query ne consuma circa 0,34 wattora, più o meno quanto un forno in poco più di un secondo o una lampadina ad alta efficienza in un paio di minuti. Richiede inoltre circa 0,000085 galloni di acqua; all’incirca un quindicesimo di un cucchiaino.)
Il ritmo del progresso tecnologico continuerà ad accelerare e le persone continueranno a essere in grado di adattarsi a quasi tutto. Ci saranno aspetti molto difficili, come la scomparsa di intere categorie lavorative, ma d’altra parte il mondo diventerà tanto più ricco, e tanto in fretta, che potremo prendere seriamente in considerazione nuove idee politiche prima impensabili. Probabilmente non adotteremo un nuovo contratto sociale tutto in una volta, ma quando ci guarderemo indietro tra qualche decennio, i cambiamenti graduali si saranno sommati fino a diventare qualcosa di grande.
Se la storia ci insegna qualcosa, troveremo nuove cose da fare e nuove cose da desiderare, e assimileremo rapidamente nuovi strumenti (i cambiamenti lavorativi successivi alla rivoluzione industriale ne sono un buon esempio recente). Le aspettative aumenteranno, ma le capacità cresceranno altrettanto rapidamente e tutti avremo cose migliori. Costruiremo cose sempre più meravigliose gli uni per gli altri. Nel lungo termine, le persone hanno un vantaggio importante e curioso sull’IA: siamo biologicamente programmati per interessarci agli altri e a ciò che pensano e fanno, mentre non ci importa molto delle macchine.
Un contadino di sussistenza di mille anni fa guarderebbe ciò che molti di noi fanno e direbbe che abbiamo lavori finti, e penserebbe che stiamo semplicemente giocando per intrattenerci, dato che abbiamo cibo in abbondanza e lussi inimmaginabili. Spero che guarderemo ai lavori che esisteranno tra mille anni e penseremo che siano lavori altrettanto finti, e non ho alcun dubbio che sembreranno invece incredibilmente importanti e soddisfacenti a chi li svolgerà.
Il ritmo con cui verranno realizzate nuove meraviglie sarà immenso. Oggi è difficile persino immaginare cosa avremo scoperto entro il 2035; magari passeremo dal risolvere la fisica delle alte energie in un anno all’avviare la colonizzazione dello spazio in quello successivo; oppure da un’importante scoperta nella scienza dei materiali in un anno a vere e proprie interfacce cervello-computer ad alta larghezza di banda in quello dopo. Molte persone sceglieranno di vivere la propria vita più o meno allo stesso modo, ma almeno alcune probabilmente decideranno di “collegarsi”.
Guardando al futuro, tutto questo sembra difficile da concepire. Tuttavia, viverlo sarà probabilmente impressionante ma gestibile. Da una prospettiva relativistica, la singolarità avviene poco a poco e la fusione si verifica lentamente. Stiamo risalendo il lungo arco del progresso tecnologico esponenziale; guardando in avanti sembra sempre verticale, mentre guardando all’indietro sembra piatto, ma si tratta di un’unica curva continua. (Ripensa al 2020 e a come sarebbe suonata l’idea di avere qualcosa di simile all’IAG entro il 2025, rispetto a come sono stati effettivamente gli ultimi 5 anni.)
Ci sono sfide serie da affrontare, accanto agli enormi vantaggi. Dobbiamo risolvere i problemi di sicurezza, a livello tecnico e sociale, ma poi è di fondamentale importanza distribuire ampiamente l’accesso alla superintelligenza, viste le implicazioni economiche. La strada migliore da percorrere potrebbe essere più o meno questa:
-
Risolvere il problema dell’allineamento, il che significa poter garantire in modo solido che i sistemi di IA apprendano e agiscano in funzione di ciò che collettivamente desideriamo davvero a lungo termine (i feed dei social media sono un esempio di IA disallineata; gli algoritmi che li alimentano sono straordinariamente efficaci nel farti continuare a scorrere e comprendono chiaramente le tue preferenze a breve termine, ma lo fanno sfruttando un meccanismo del tuo cervello che prevale sulle tue preferenze a lungo termine).
-
Puntare, in seguito, a rendere la superintelligenza economica, ampiamente disponibile e non troppo concentrata nelle mani di una singola persona, azienda o nazione. La società è resiliente, creativa e si adatta in fretta. Se riusciremo a incanalare la volontà e la saggezza collettive delle persone, allora, anche se commetteremo molti errori e alcune cose andranno davvero storte, impareremo e ci adatteremo rapidamente, riuscendo a utilizzare questa tecnologia per massimizzare i vantaggi e minimizzare gli svantaggi. Sembra molto importante garantire agli utenti una grande libertà, all’interno di ampi confini che la società dovrà stabilire. Prima il mondo riuscirà ad avviare una conversazione su quali debbano essere questi ampi confini e su come definire l’allineamento collettivo, meglio sarà.
Noi (l’intero settore, non solo OpenAI) stiamo costruendo un cervello per il mondo. Sarà estremamente personalizzato e facile da usare per tutti; saremo limitati solo dalle buone idee. Per molto tempo, i tecnici del mondo delle startup hanno preso in giro “quelli delle idee”, persone che avevano un’idea e cercavano un team per realizzarla. Ora mi sembra proprio che stiano per avere il loro momento di gloria.
Oggi OpenAI è molte cose, ma prima di tutto siamo un’azienda di ricerca sulla superintelligenza. Abbiamo molto lavoro da fare, ma la maggior parte del percorso davanti a noi è ormai illuminata e le zone d’ombra si stanno rapidamente ritirando. Siamo straordinariamente grati di poter fare ciò che facciamo.
Un’intelligenza così economica da non dover essere misurata è ormai a portata di mano. Potrebbe sembrare folle dirlo, ma se nel 2020 ti avessimo detto che saremmo arrivati dove siamo oggi, probabilmente ti sarebbe sembrato ancora più folle delle nostre attuali previsioni sul 2030.
Che si possa scalare attraverso la superintelligenza in modo fluido, esponenziale e senza imprevisti.