Punto debole del “secolo più importante”: la piena automazione
Ho pensato che sarebbe stato opportuno scrivere un paio di post su quelli che considero i punti più deboli della serie “Il secolo più importante”, ora che ho ricevuto alcune reazioni e critiche.
Attualmente penso che il punto più debole della serie sia questo:
In breve: un piccolo divario in ciò che l’intelligenza artificiale può automatizzare potrebbe portare a un impatto molto minore di quello che la serie implica. Automatizzare “quasi tutto” potrebbe essere molto diverso dall’automatizzare tutto.
Questo è un contesto importante per i tentativi di previsione sull’IA trasformativa: stanno davvero prevedendo qualcosa di piuttosto estremo.
Penso che quanto detto sopra sia corretto: avremmo bisogno di livelli estremi di automazione per produrre le conseguenze che immagino. (Potrebbero esserci alcuni compiti che devono essere svolti dagli esseri umani, ma dovrebbero essere piuttosto piccoli e limitati per evitare di rallentare molto le cose attraverso un collo di bottiglia).
È anche vero che non ho spiegato come si potrebbe ottenere un’automazione così estrema — come ogni attività necessaria per far progredire la scienza e la tecnologia (compresa l’esecuzione di esperimenti e l’attesa della loro conclusione) potrebbe essere svolta in modo rapido e/o automatizzato, senza che l’uomo o altri colli di bottiglia rallentino molto le cose.
Ciò premesso, vale la pena notare che i livelli estremi di automazione non devono necessariamente applicarsi all’intera economia: l’automazione estrema per un insieme relativamente piccolo di attività potrebbe essere sufficiente per raggiungere le conclusioni della serie.
Ad esempio, potrebbe essere sufficiente che i sistemi di intelligenza artificiale sviluppino (a) computer sempre più efficienti; (b) pannelli solari (per l’energia); (c) robot per l’estrazione e la produzione; (d) sonde spaziali (per costruire più computer nello spazio, dove energia e metalli abbondano). Ciò potrebbe essere sufficiente (tramite ciclo di retroazione) per una crescita esplosiva dell’energia, dei materiali e della potenza di calcolo disponibili, e ci sono molti modi in cui tale crescita potrebbe essere trasformativa.
Ad esempio, e in particolare, potrebbe portare a:
Non credo di aver dimostrato in modo esauriente (o, per i lettori con un forte scetticismo iniziale sull’IA, convincente) che l’IA avanzata potrebbe causare un’accelerazione esplosiva del progresso scientifico e tecnologico, senza incorrere in “colli di bottiglia” dipendenti dall’uomo o di altro tipo. Credo di aver dato una buona idea dell’intuizione del perché, ma questo è certamente un argomento che non ho approfondito quanto avrei potuto; spero e mi aspetto che qualcuno lo faccia.
Penso che tale indagine sosterrà in ultima analisi il quadro che ho fornito nella serie “Il secolo più importante”. Si basa in parte sul ragionamento di cui sopra: la portata relativamente limitata di ciò che dovrebbe essere completamente automatizzato per sostenere le mie ampie conclusioni. In parte si basa anche su un processo di ragionamento simile a quello che ho usato in passato per ipotizzare alcune conclusioni fondamentali prima di aver svolto tutte le ricerche necessarie: impegnarsi in molte conversazioni e farsi un’ idea di quanto le diverse parti siano informate e di quanto senso abbiano. Ma riconosco che non è così soddisfacente o affidabile come lo sarebbe se fornissi una descrizione altamente dettagliata di quali attività precise possono essere automatizzate.