Punto debole del “secolo più importante”: la piena automazione
Ho pensato che sarebbe stato opportuno scrivere un paio di post su quelli che considero i punti più deboli della serie “Il secolo più importante”, ora che ho ricevuto alcune reazioni e critiche.
Attualmente penso che il punto più debole della serie sia questo:
- È vero che se l’intelligenza artificiale potesse davvero automatizzare tutto ciò che è necessario per fare progressi in campo scientifico e tecnologico, ne deriverebbero le conseguenze delineate nella serie (una drammatica accelerazione del progresso scientifico e tecnologico, che porterebbe a un futuro del tutto sconosciuto).
- Ma cosa succederebbe se l’intelligenza artificiale fosse in grado di automatizzare solo il 99 % di ciò che è necessario per il progresso scientifico e tecnologico? E se i sistemi di intelligenza artificiale potessero proporre esperimenti ma non eseguirli? E se potessero proporre esperimenti ed eseguirli, ma senza ottenere l’autorizzazione normativa? In questo caso, è plausibile che l’1 % delle cose che le intelligenze artificiali non sono in grado di fare in modo rapido e automatico ostacolerebbe il progresso, portando a una crescita drasticamente inferiore.
- La serie cita le opinioni degli esperti su quando sarà sviluppata l’intelligenza artificiale trasformativa. Tecnicamente, il tipo di situazione previsto dagli intervistati — “le intelligenze non assistite possono svolgere ogni compito in modo migliore e più economico dei lavoratori umani” — dovrebbe essere sufficiente per un’esplosione della produttività. Ma le persone intervistate potrebbero pensare a un tipo di intelligenza artificiale leggermente meno potente di quanto implicato da questa affermazione, il che potrebbe portare a impatti drammaticamente minori. Oppure potrebbero immaginare che anche le intelligenze artificiali con capacità intellettuali pari a quelle umane potrebbero non essere in grado, nella pratica, di svolgere compiti fondamentali perché (ad esempio) non godono della fiducia istintiva degli esseri umani. In ogni caso, i partecipanti al sondaggio potrebbero immaginare qualcosa di quasi altrettanto capace — ma non altrettanto d’impatto — del tipo di intelligenza artificiale di cui parlo.
- Inoltre, anche se le intelligenze artificiali fossero in grado di fare tutto ciò che fanno gli esseri umani per automatizzare il progresso scientifico e tecnologico, il loro progresso scientifico e tecnologico potrebbe dover attendere i risultati degli esperimenti nel mondo reale, il che potrebbe rallentarle molto.
In breve: un piccolo divario in ciò che l’intelligenza artificiale può automatizzare potrebbe portare a un impatto molto minore di quello che la serie implica. Automatizzare “quasi tutto” potrebbe essere molto diverso dall’automatizzare tutto.
Questo è un contesto importante per i tentativi di previsione sull’IA trasformativa: stanno davvero prevedendo qualcosa di piuttosto estremo.
La mia risposta
Penso che quanto detto sopra sia corretto: avremmo bisogno di livelli estremi di automazione per produrre le conseguenze che immagino. (Potrebbero esserci alcuni compiti che devono essere svolti dagli esseri umani, ma dovrebbero essere piuttosto piccoli e limitati per evitare di rallentare molto le cose attraverso un collo di bottiglia).
È anche vero che non ho spiegato come si potrebbe ottenere un’automazione così estrema — come ogni attività necessaria per far progredire la scienza e la tecnologia (compresa l’esecuzione di esperimenti e l’attesa della loro conclusione) potrebbe essere svolta in modo rapido e/o automatizzato, senza che l’uomo o altri colli di bottiglia rallentino molto le cose.
Ciò premesso, vale la pena notare che i livelli estremi di automazione non devono necessariamente applicarsi all’intera economia: l’automazione estrema per un insieme relativamente piccolo di attività potrebbe essere sufficiente per raggiungere le conclusioni della serie.
Ad esempio, potrebbe essere sufficiente che i sistemi di intelligenza artificiale sviluppino (a) computer sempre più efficienti; (b) pannelli solari (per l’energia); (c) robot per l’estrazione e la produzione; (d) sonde spaziali (per costruire più computer nello spazio, dove energia e metalli abbondano). Ciò potrebbe essere sufficiente (tramite ciclo di retroazione) per una crescita esplosiva dell’energia, dei materiali e della potenza di calcolo disponibili, e ci sono molti modi in cui tale crescita potrebbe essere trasformativa.
Ad esempio, e in particolare, potrebbe portare a:
- IA disallineate con accesso a quantità pericolose di materiali ed energia.
- Se i sistemi di intelligenza artificiale avessero anche la possibilità di (a) “virtualizzare” le neuroscienze (tramite esperimenti virtuali o semplicemente aumentando drasticamente il tasso di apprendimento dagli esperimenti del mondo reale); o (b) avere un’intuizione su come creare qualcosa che potremmo considerare correttamente come “discendenti digitali”.
In conclusione
Non credo di aver dimostrato in modo esauriente (o, per i lettori con un forte scetticismo iniziale sull’IA, convincente) che l’IA avanzata potrebbe causare un’accelerazione esplosiva del progresso scientifico e tecnologico, senza incorrere in “colli di bottiglia” dipendenti dall’uomo o di altro tipo. Credo di aver dato una buona idea dell’intuizione del perché, ma questo è certamente un argomento che non ho approfondito quanto avrei potuto; spero e mi aspetto che qualcuno lo faccia.
Penso che tale indagine sosterrà in ultima analisi il quadro che ho fornito nella serie “Il secolo più importante”. Si basa in parte sul ragionamento di cui sopra: la portata relativamente limitata di ciò che dovrebbe essere completamente automatizzato per sostenere le mie ampie conclusioni. In parte si basa anche su un processo di ragionamento simile a quello che ho usato in passato per ipotizzare alcune conclusioni fondamentali prima di aver svolto tutte le ricerche necessarie: impegnarsi in molte conversazioni e farsi un’ idea di quanto le diverse parti siano informate e di quanto senso abbiano. Ma riconosco che non è così soddisfacente o affidabile come lo sarebbe se fornissi una descrizione altamente dettagliata di quali attività precise possono essere automatizzate.