Le tempistiche “lunghe” per l’IA avanzata sono diventati incredibilmente brevi
La prospettiva di raggiungere un’IA di livello umano negli anni 2030 dovrebbe essere sconcertante.
Un tempo era un’affermazione audace, che richiedeva prove solide, sostenere che avremmo potuto assistere a qualcosa di simile a un’IA di livello umano nella prima metà del XXI secolo. Questo post del 2016, ad esempio, dedica 8 500 parole a giustificare l’affermazione secondo cui vi è una probabilità superiore al 10 % che un’IA avanzata venga sviluppata entro il 2036.
(Le discussioni sulle tempistiche si riferiscono in genere alle “tempistiche per l’IAG”, ma in questo post mi riferirò principalmente a “IA avanzata” o “IA di livello umano” piuttosto che a “IAG”. A mio avviso, il termine tecnico “IAG” tende a creare più confusione che chiarezza, poiché diversi esperti lo utilizzano in modi molto diversi tra loro.1 Quindi il fatto che “IA di livello umano” suoni più vago di “IAG” è una caratteristica, non un difetto: suscita naturalmente reazioni del tipo “di livello umano rispetto a cosa?”, “come lo misuriamo?” e “è davvero un parametro significativo?”, e così via, che ritengo siano domande del tutto appropriate purché non vengano utilizzate per negare la tendenza generale verso sistemi più intelligenti e capaci.)
Nei tempi bui prima di ChatGPT, i fautori delle “tempistiche brevi” affermavano che vi fosse una reale possibilità che sistemi di IA estremamente avanzati venissero sviluppati nel corso della nostra vita — forse già entro 10 o 20 anni. In tal caso, continuava il ragionamento, dovremmo ovviamente iniziare a prepararci: investire nella ricerca sulla sicurezza dell’IA, costruire un consenso internazionale su quali tipi di sistemi di IA siano troppo pericolosi da realizzare o impiegare, rafforzare la sicurezza delle aziende che sviluppano i sistemi più avanzati affinché gli avversari non possano rubarli, e così via. Questi preparativi potrebbero richiedere anni o decenni, proseguiva l’argomentazione, quindi dovremmo metterci al lavoro immediatamente.
Gli oppositori, propensi alle “tempistiche lunghe”, obiettavano che, in realtà, non vi era alcuna prova che l’IA sarebbe diventata molto avanzata in tempi brevi (ad esempio, nei successivi 30 anni).2 Dovremmo quindi ignorare qualsiasi preoccupazione legata all’IA avanzata e concentrarci invece sui problemi attuali associati a sistemi molto meno sofisticati, quali i pregiudizi, la sorveglianza e le condizioni di lavoro precarie. A seconda dell’inclinazione di chi parlava, i problemi derivanti dall’IAG venivano liquidati per sempre come “fantascienza” o semplicemente relegati alla categoria dei problemi da affrontare in un secondo momento.
A prescindere da chi pensiate avesse ragione, ai fini di questo post voglio sottolineare che questo dibattito aveva senso. “Questa tecnologia dalle conseguenze enormi potrebbe essere realizzata entro un paio di decenni, faremmo meglio a prepararci” contro “No, non sarà così, quindi sarebbe una perdita di tempo” rappresenta un insieme di posizioni opposte perfettamente sensate.
Oggi, in quest’era di leggi di scala, modelli di ragionamento e agenti, i dibattiti assumono una forma diversa.
Quelli che vengono considerati tempi “brevi” sono ormai incredibilmente rapidi: da uno a cinque anni per arrivare a sistemi di livello umano. Per chi appartiene alla fazione dei “tempi brevi”, “IAG entro il 2027” era già diventato un popolare argomento di discussione prima che un particolare manifesto online facesse scalpore con quella previsione lo scorso anno. Ora, i vertici delle tre principali aziende di IA hanno espresso pubblicamente opinioni simili: ovvero che il 2026-2027 è il periodo in cui è “più probabile” che si realizzi “un’IA più intelligente di quasi tutti gli esseri umani in quasi tutto” (amministratore delegato di Anthropic); che l’IAG sarà probabilmente realizzata entro gennaio 2029 (amministratore delegato di OpenAI); e che siamo “probabilmente a tre-cinque anni di distanza” dall’IAG (amministratore delegato di Google DeepMind). L’atmosfera in gran parte della comunità della sicurezza dell’IA è di conseguenza frenetica, con persone che cercano disperatamente di capire quali tipi di misure di mitigazione, tecniche o politiche, potrebbero mai essere d’aiuto in quel lasso di tempo.
È ovvio che, come società, non siamo pronti a gestire un’IA di livello umano e tutte le sue implicazioni in tempi così brevi. Fortunatamente, la maggior parte delle persone ritiene che abbiamo più tempo.
Ma… quanto tempo ancora?
Ecco alcune citazioni recenti di esperti di IA noti per le loro opinioni più caute sulla rapidità con cui l’IA sta progredendo:
Yann LeCun:
“Raggiungere un’IA di livello umano richiederà diversi anni, se non un decennio.” (fonte)
“I sistemi di IA eguaglieranno e supereranno le capacità intellettuali umane… probabilmente nel prossimo decennio o due” (video, trascrizione)
Gary Marcus:
[L’IAG arriverà] “forse tra 10 o 20 anni” (fonte)
Arvind Narayanan:
Inizialmente avevo questa citazione di Arvind:
“Penso che l’IAG sia lontana molti, molti anni, forse a decenni di distanza” (fonte)
Ho interpretato questa affermazione nel senso che, secondo lui, 5 anni sono un periodo troppo breve, mentre 20 anni sono un orizzonte un po’ lungo. Quando ho sottoposto questa interpretazione ad Arvind, ha aggiunto un contesto interessante: ha scelto quella formulazione nell’intervista alla luce di quello che considera un annacquamento della definizione di IAG, per cui la sua tempistica reale è più lunga. Ma per chiarire cosa intendesse, ha detto:
“Penso che gli effetti realmente trasformativi (ad esempio, la maggior parte dei compiti cognitivi svolti dall’IA) siano ancora a decenni di distanza (con l’80 % di probabilità che ci vogliano più di 20 anni)”. (fonte: corrispondenza privata)
…in altre parole, c’è il 20 % di probabilità che l’IA svolga la maggior parte dei compiti cognitivi entro il 2045.
Queste tempistiche “lunghe” assomigliano davvero molto a quelle che un tempo definivamo “brevi”!
In altre parole: sì, è ancora vero che alcuni esperti di IA ritengono che costruiremo presto un’IA di livello umano, mentre altri pensano che abbiamo più tempo. Ma i recenti progressi nell’IA hanno avvicinato molto i significati di “presto” e “più tempo” al presente — così vicini al presente che persino la visione scettica implica che ci aspettano uno o due decenni frenetici.
Per essere chiari, questo non significa:
-
Avremo sicuramente un’IA di livello umano tra 20 anni.
-
Sicuramente non avremo un’IA di livello umano nei prossimi 5 anni.
-
L’IA di livello umano sarà sicuramente realizzata con tecniche oggi diffuse (trasformatori generativi pre-addestrati, modelli di ragionamento, scaffolding di agenti, ecc.).
-
Ogni discussione sull’IA dovrebbe vertere sui problemi legati a sistemi di IA estremamente avanzati, senza dedicare tempo o attenzione ai problemi già causati dai sistemi di IA attualmente in uso.
Ma ciò significa:
-
Liquidare la discussione su IAG, IA di livello umano, IA trasformativa, superintelligenza, ecc. come “fantascienza” dovrebbe essere considerato un segno di totale mancanza di serietà. Il viaggio nel tempo è fantascienza. I marziani sono fantascienza. “Anche molti esperti scettici ritengono che potremmo benissimo realizzarla nel prossimo decennio o due” non è fantascienza.
-
Se volete sostenere che un’IA di livello umano sia estremamente improbabile nei prossimi 20 anni, potete certamente farlo, ma dovreste considerarla una posizione di minoranza per la quale l’onere della prova spetta a voi.
-
Dobbiamo agire su molte delle stesse cose che potrebbero aiutarci se si dovesse scoprire che abbiamo a disposizione solo pochi anni. In ogni caso, ci vorranno probabilmente anni e anni prima che diano i loro frutti, quindi se abbiamo a disposizione un decennio o due dobbiamo sfruttare questo tempo. Tra queste rientrano:
-
Far progredire la scienza della misurazione dell’IA, in modo che, anziché affidarci all’attuale approccio frammentario, possiamo disporre di metodi davvero validi per determinare cosa un dato modello può e non può fare, come si confrontano tra loro (e con gli esseri umani) modelli diversi e con quale rapidità sta avanzando la frontiera.
-
Far progredire la scienza dell’interpretabilità, in modo da poter capire come diavolo funzionano i sistemi di IA, quando è probabile che falliscano e quando dovremmo (o non dovremmo) fidarcene.
-
Far progredire la scienza dell’allineamento, dell’orientamento e del controllo dei sistemi di IA, in particolare di quelli sufficientemente avanzati da rendersi conto di essere sottoposti a test.
-
Promuovere un ecosistema di organizzazioni terze in grado di verificare le affermazioni di grande rilevanza che gli sviluppatori di IA fanno riguardo ai propri sistemi, in modo che i governi e il pubblico non dipendano dalla scelta degli sviluppatori di essere onesti e trasparenti.
-
Lavorare per raggiungere una qualche forma di consenso internazionale su quali tipi di sistemi di IA sarebbero inaccettabilmente rischiosi da realizzare e su quali tipi di prove ci aiuterebbero a determinare se siamo sulla strada per costruire tali sistemi. (Forse qualcuno dovrebbe istituire una sorta di serie di vertici internazionali al riguardo…?)
-
Rafforzare le capacità del governo in materia di IA, in modo che all’interno del Congresso e del potere esecutivo vi siano reali competenze per gestire le questioni di politica sull’IA man mano che si presentano.
È del tutto ragionevole essere scettici nei confronti dei sostenitori dell’“IAG entro il 2027!”. Ma anche schierandosi con gli esperti che li ritengono in errore, si arriva comunque alla conclusione che una tecnologia radicalmente trasformativa — e potenzialmente molto pericolosa — potrebbe benissimo essere sviluppata prima che i bambini nati oggi finiscano il liceo. È pazzesco.