Una lettera personale sull’IA trasformativa
Dare un senso ai rapidi progressi dell’IA
George Rosenfeld è vicedirettore dell’area rischi catastrofici globali di Coefficient Giving, che comprende i fondi dedicati alla gestione della transizione verso l’IA trasformativa e alla biosicurezza. Ad aprile ha scritto una lettera ad amici e familiari per spiegare perché ritiene che l’IA possa trasformare il mondo nei prossimi anni e perché l’attuale traiettoria lo preoccupa.
Si tratta di una lettera personale, scritta per chi si imbatte in questi argomenti per la prima volta. La condividiamo perché riteniamo che più persone dovrebbero partecipare a questo tipo di conversazioni.
Nota: questa lettera è stata condivisa all’inizio di aprile. Nelle circa sei settimane trascorse da allora, secondo quanto riportato, il fatturato annualizzato di Anthropic è cresciuto fino a 45 miliardi di dollari (rispetto ai 9 miliardi del dicembre 2025 citati di seguito). L’azienda ha inoltre annunciato lo sviluppo di Mythos, un nuovo e potente modello di IA che, a suo dire, su richiesta si è dimostrato in grado di individuare vulnerabilità di sicurezza in tutti i principali sistemi operativi e browser web. La lettera non tiene conto di questi sviluppi, ma il progresso dell’IA continua a un ritmo vertiginoso.
————————————————————————
Cari familiari e amici,
Negli ultimi due anni ho lavorato presso Coefficient Giving al programma Navigating Transformative AI. Il nostro lavoro consiste principalmente nel riflettere su cosa potrebbe accadere con l’IA nei prossimi anni, cercare di capire quanto possa diventare potente e trasformativa, e fare tutto il possibile per aiutare il mondo a prepararsi meglio.
Gli scenari a cui pensa il mio team sembrano piuttosto estremi e fantascientifici. Pensiamo a mondi in cui i sistemi di IA sono in grado di fare praticamente tutto ciò che sanno fare gli esseri umani, solo più velocemente e meglio; in cui decenni di progresso scientifico iniziano a compiersi nel giro di mesi o anni; e in cui ci chiediamo non solo cosa possano fare le IA, ma se l’umanità riuscirà a mantenere il controllo.
È difficile sopravvalutare quanto siano sconvolgenti queste possibilità. Se questi esiti sono anche solo in parte plausibili, allora potremmo trovarci a vivere uno dei punti di svolta più importanti della storia dell’umanità.
Non so con certezza se qualcuna di queste cose accadrà. Non so nemmeno se questi sviluppi sarebbero molto positivi (si pensi a un livello senza precedenti di benessere e prosperità dell’umanità), molto negativi (si pensi a tutti gli esseri umani morti o privati della capacità di decidere del proprio futuro), o una via di mezzo.
Devo anche chiarire fin da subito che queste opinioni non sono quelle prevalenti.1 L’idea che l’IA possa automatizzare quasi tutto e trasformare la civiltà nel giro di pochi anni è una posizione minoritaria, che la maggior parte degli economisti, dei decisori politici e delle persone in generale non prende ancora sul serio. Di certo non sembra che il mondo sia consapevole di queste possibilità.
Personalmente, anch’io sono stato scettico per molto tempo. Quando mi sono imbattuto per la prima volta in queste argomentazioni, mi sembravano fantascientifiche e lontane nel tempo, e mi ci è voluto un po’ per ricredermi. Ma negli ultimi due anni, le mie previsioni più prudenti hanno costantemente sottovalutato i progressi che l’IA avrebbe compiuto, e sono diventato sempre più convinto — e sempre più preoccupato — che questi scenari siano plausibili, e che potrebbero non essere poi così lontani.
Non ero sicuro di voler condividere tutto questo, o se fosse addirittura un bene che le persone lo leggessero. Sebbene io non ne sia certo, la mia ipotesi più plausibile è che il mondo sia sul punto di cambiare radicalmente — che ripenseremo a questo periodo come ripensiamo al febbraio 2020 prima che il COVID-19 cambiasse tutto,2 solo che questa volta la trasformazione sarà molto più drastica e il mondo potrebbe non tornare mai più com’era prima.
Queste sono convinzioni reali con cui convivo e che guidano sempre più le mie emozioni e decisioni, le mie speranze e paure. È strano, e mi fa sentire solo, custodirle dentro di me senza condividerle con le persone a cui tengo.
Di seguito scriverò di (1) perché un’IA potente potrebbe avere un impatto così enorme, (2) quanto velocemente potremmo arrivare a quel punto e (3) quali rischi — e benefici — senza precedenti potrebbe introdurre un’IA trasformativa. Includo anche dei link a ulteriori risorse dove potrai imparare da persone molto più esperte di me.
Perché l’IA è così importante?
La maggior parte di noi interagisce con l’IA sotto forma di chatbot, un’interfaccia online che risponde alle nostre domande, pianifica le nostre vacanze e, occasionalmente, fa i nostri compiti.3 A volte sembra utile, altre volte inutile. In ogni caso, non sembra necessariamente così rivoluzionaria o così diversa dalle altre tecnologie inventate dall’uomo.
Una differenza fondamentale è che, a differenza delle tecnologie precedenti, l’IA potrebbe essere in grado di automatizzare tutto ciò che gli esseri umani sono in grado di fare. Le tecnologie precedenti sono sempre state, in qualche modo, un complemento per gli esseri umani. La stampa ci ha permesso di diffondere le idee più rapidamente, ma qualcuno doveva comunque avere le idee. I computer possono calcolare più velocemente di quanto potremmo mai fare noi, ma fanno solo ciò per cui li programmiamo.
L’IA, al contrario, potrebbe plausibilmente fare tutto ciò che gli esseri umani sono in grado di fare, compreso ragionare su problemi aperti, una capacità che fino a poco tempo fa era considerata esclusivamente umana. Non possiamo essere certi che l’IA sarà in grado di raggiungere questo traguardo, ma se ci riuscisse, sarebbe probabilmente un evento di portata enorme.
Per cominciare, addio ai nostri posti di lavoro. Non nel senso tradizionale di: l’IA automatizza una parte del lavoro umano, quindi gli esseri umani acquisiscono nuove competenze e passano a lavori diversi, come è già accaduto molte volte in passato.4 Ma, plausibilmente: l’IA è ora più brava a svolgere praticamente qualsiasi lavoro persino rispetto ai migliori esseri umani, quindi non c’è nessun altro lavoro a cui passare.5 Al momento questo è forse più facile da immaginare nel caso del lavoro cognitivo, anche se in seguito potrebbe essere automatizzato anche il lavoro fisico. In quel mondo, non è chiaro come la maggior parte degli esseri umani si guadagnerebbe da vivere, né quale forma assumerebbe l’economia.
Ma la perdita del lavoro, per quanto drammatica e capace di cambiare il mondo, potrebbe non essere nemmeno l’aspetto più importante. Fino a ora, il lavoro umano ha rappresentato un significativo collo di bottiglia sia per il progresso scientifico che per quello economico. Tuttavia, con un’IA sufficientemente potente, potremmo disporre dell’equivalente di ulteriori miliardi di scienziati di punta, imprenditori e altri esperti da mobilitare per affrontare contemporaneamente ogni tipo di problema.6
È difficile sapere esattamente a quale velocità potrebbero evolversi le cose. Anche con un’IA sovrumana, ci sarebbero comunque dei colli di bottiglia: gli esperimenti fisici richiedono tempo per essere condotti; molti problemi del mondo reale sono intrinsecamente caotici e complessi; le istituzioni e le normative potrebbero non tenere il passo e l’adozione delle nuove tecnologie potrebbe essere più lenta del loro sviluppo.7
Ma è plausibile che un mondo del genere possa diventare rapidamente irriconoscibile rispetto a quello odierno, con centinaia di anni di progresso compressi in mesi o anni.
Pensa a quanto sia diverso il mondo oggi rispetto al 1500: la medicina moderna, l’elettricità, Internet, le armi nucleari, i viaggi spaziali. Ora immagina che un cambiamento di quella portata avvenga non nell’arco di cinque secoli, ma in cinque anni. E a differenza delle generazioni che hanno vissuto la trasformazione originaria, non avremmo secoli per adattarci.8
A che punto siamo e dove stiamo andando?
A marzo 2026, l’IA non ha trasformato il mondo e non ha automatizzato così tanti posti di lavoro. Non la trovo ancora molto utile per il mio lavoro.
Ma ciò che conta è la traiettoria.
I sistemi di IA sono già migliorati notevolmente negli ultimi anni. Nel 2022, il primo chatbot ampiamente disponibile (ChatGPT) era in grado di sostenere una conversazione accettabile, ma spesso si inventava le cose. Nel 2024, i migliori sistemi di IA superavano l’esame di abilitazione alla professione forense e ottenevano medaglie d’argento alle Olimpiadi Internazionali di Matematica (e l’oro è arrivato nel 2025). All’inizio del 2026, gli agenti di IA sono spesso in grado di gestire progetti software di una certa entità che richiedono diverse ore a esseri umani esperti,9 e vengono ora utilizzati per accelerare il processo stesso di sviluppo dell’IA.10
Per comprendere cosa determini questi miglioramenti, è utile farsi un’idea di come vengano sviluppati i modelli di IA. Quando costruiamo il motore di un’auto, un ponte o un sito web, sappiamo come vogliamo che sia e comprendiamo esattamente come e perché il prodotto finale funziona. L’intelligenza artificiale, però, è diversa: le aziende di IA creano una rete neurale (una sorta di cervello artificiale), la addestrano su enormi quantità di dati e lasciano che l’intelligenza «emerga» dal modello. Gli ingegneri guidano questo processo di apprendimento, ma non progettano direttamente le capacità che ne emergono.11
Negli ultimi anni, uno dei principali motori del progresso dell’IA è stato l’aumento di scala: man mano che le aziende di IA aumentano gli input (più dati, più potenza di calcolo, modelli più grandi),12 osservano insieme al resto di noi l’emergere di un’intelligenza sempre più avanzata e di nuove capacità. Molte volte le persone hanno scommesso contro l’IA, sostenendo che non sarebbe mai stata in grado di fare una determinata cosa, per poi essere smentite dal successivo aumento di scala. Questo schema si è confermato più volte con il crescere delle dimensioni dei modelli, e nessuno sa a che velocità continuerà o se si fermerà.
C’è un grafico che continuo a osservare e che ben rappresenta questa tendenza, proveniente da METR, un’organizzazione che valuta le capacità dell’IA. Essa misura l’«orizzonte temporale» dei sistemi di IA: la difficoltà dei compiti software che un’IA può completare autonomamente, calcolata in base al tempo necessario a esperti umani per svolgerli.13 Tra il 2019 e il 2025, METR ha rilevato che gli orizzonti temporali sono raddoppiati all’incirca ogni sette mesi. Dati più recenti indicano che ora potrebbero raddoppiare ogni quattro mesi.
Come abbiamo imparato durante la pandemia di COVID, le dinamiche esponenziali possono cambiare le cose rapidamente: i raddoppi avvengono in fretta e potrebbero bastarne pochi per trasformare il mondo.14
Un altro modo per valutare la traiettoria dell’IA consiste nell’osservare i dati relativi al fatturato delle aziende di IA, che in un certo senso rappresentano un indicatore più affidabile dell’impatto nel mondo reale. Anthropic (l’azienda che sviluppa Claude) è passata da 100 milioni di dollari di fatturato annualizzato alla fine del 2023 a 1 miliardo di dollari alla fine del 2024, fino ad arrivare a 9 miliardi di dollari entro la fine del 2025: una crescita annuale di circa 10 volte. Secondo alcune stime, questo la rende una delle aziende tecnologiche con la crescita più rapida della storia.
E l’investimento supera di gran lunga persino i ricavi. Le cinque maggiori aziende tecnologiche si avviano a spendere oltre 600 miliardi di dollari in infrastrutture di IA solo nel 2026, principalmente in data center e chip. Per mettere la cosa in prospettiva: il programma Apollo per portare l’uomo sulla Luna è costato circa 250 miliardi di dollari (aggiustati per l’inflazione) in tutti i suoi 13 anni di durata. Le aziende di IA spenderanno più del doppio di tale cifra in un solo anno. Si tratta già di uno dei maggiori investimenti privati in una singola tecnologia della storia moderna.
Queste cifre, da sole, non dimostrano che l’IA stia per trasformare l’economia; molte tecnologie hanno avuto un’adozione iniziale esplosiva senza cambiare la civiltà, ed è possibile che gli enormi investimenti in atto siano solo una bolla. Ma, se combinate con le tendenze sulle capacità descritte in precedenza, delineano un quadro coerente: o il progresso dell’IA inizierà a sbattere contro un muro piuttosto presto, oppure diventerà la forza trainante dell’economia globale. E sta diventando sempre più difficile scommettere sul muro.
Facendo un passo indietro: va benissimo condividere grafici e tendenze, ma quando qualcuno ti dice che all’orizzonte c’è questa nuova grande rivoluzione, è del tutto ragionevole essere scettici. Questa è stata la mia reazione iniziale: mi ci è voluto molto tempo per arrivare a credere davvero che scenari simili fossero plausibili. Ma col passare del tempo, le persone che estrapolano le tendenze e prendono sul serio queste possibilità sembrano averci visto giusto sempre più spesso, mentre le mie previsioni più caute continuano a essere smentite.15
Ora, quando guardo ciò che quelle persone stanno prevedendo, vedo che stanno lanciando l’allarme. A gennaio, Ajeya Cotra (una mia ex collega che di recente si è classificata al terzo posto su 413 persone che avevano formulato previsioni sugli sviluppi dell’IA) ha previsto che l’IA sarebbe stata in grado, entro la fine del 2026, di completare compiti di ingegneria del software che richiedono 24 ore di lavoro a un esperto umano.16 A distanza di pochi mesi ha cambiato idea: ora ritiene che questo orizzonte supererà le 100 ore e che potrebbe non avere un limite massimo. All’inizio di marzo ha scritto: «Per la prima volta, non vedo alcuna prova concreta da cui poter dedurre che [la piena automazione della ricerca e sviluppo dell’IA]17 non avverrà a breve. La ricerca e sviluppo nell’IA potrebbe davvero essere automatizzata quest’anno.»18 Secondo Ajeya,19 potremmo aspettarci che l’IA superi i migliori esperti umani al mondo in qualsiasi attività svolta al computer entro i primi anni ‘30, con l’automazione del lavoro fisico che potrebbe seguire nel giro di un paio d’anni. Sfortunatamente, sembra plausibile anche un orizzonte temporale sostanzialmente più breve.
Queste affermazioni sembrano azzardate e potrebbero certamente rivelarsi errate. Le curve di crescita potrebbero appiattirsi. I restanti colli di bottiglia in termini di capacità potrebbero rivelarsi più fondamentali e/o più difficili da risolvere di quanto non sembrino al momento. Il mondo potrebbe svegliarsi rapidamente e coordinarsi per rallentare il processo.20
Ma nessuna di queste cose sta ancora accadendo, e il tempo stringe.
E i rischi?
Prima di addentrarmi nei rischi specifici, ecco un promemoria della situazione generale.
Potremmo essere sul punto di creare una seconda specie intelligente21 dotata di capacità superiori alle nostre, in grado di superarci in ogni ambito immaginabile e facilmente replicabile miliardi di volte. Possiamo aspettarci che questo dia il via a un’esplosione senza precedenti di progresso tecnologico, capace di trasformare il mondo a un ritmo di gran lunga superiore alla nostra capacità di tenere il passo. E, come se non bastasse, tutto questo sta accadendo mentre non comprendiamo appieno come funzionino i modelli di IA, come potrebbero comportarsi o se saremo in grado di tenerli sotto controllo.22 Tutto ciò mi sembra piuttosto preoccupante.
E in effetti, molti pensatori di spicco del settore sono preoccupati. Due dei tre «padrini dell’IA», pionieri di questo campo moderno, sostengono ora che il tipo di IA che potremmo vedere nei prossimi anni potrebbe rappresentare una minaccia esistenziale per l’umanità.23 Gli stessi amministratori delegati delle principali aziende di IA affermano che esiste una reale possibilità che questa tecnologia possa causare danni catastrofici. Dario Amodei, amministratore delegato di Anthropic, ha dichiarato di ritenere che ci sia una probabilità del 25 % che le cose vadano «davvero, davvero male». Sam Altman, amministratore delegato di OpenAI, ha descritto lo scenario peggiore come «la fine per tutti noi».24
Eppure, continuano la loro corsa.25
Nel mio team ci concentriamo principalmente sulla riduzione dei rischi che potrebbero uccidere miliardi di persone o causare danni altrettanto gravi (o peggiori) in altri modi. Tra questi vi sono:
-
Uso improprio catastrofico dell’IA: Gli esseri umani potrebbero utilizzare deliberatamente potenti sistemi di IA per causare danni catastrofici, ad esempio progettando e diffondendo pandemie ingegnerizzate in modi che sarebbero molto più difficili o impossibili senza una potente IA. Maggiori informazioni qui.
-
Concentrazione estrema di potere: L’IA potrebbe consentire a un numero ristretto di attori — aziende, governi o persino singoli individui — di accumulare un livello di potere senza precedenti nella storia dell’umanità, ottenendo l’accesso esclusivo a capacità sovrumane senza dover fare affidamento sul sostegno di esseri umani che altrimenti potrebbero opporre resistenza. In casi estremi, ciò potrebbe includere veri e propri colpi di Stato da parte di amministratori delegati di aziende di IA,26 il consolidamento di regimi autoritari di fatto irreversibili da parte di capi di Stato e altri scenari che potrebbero privare quasi tutti, in modo duraturo, della possibilità di influire sulle decisioni politiche. Per approfondire, leggi qui.
-
Presa del potere da parte dell’IA: Il rischio più fantascientifico di tutti. Molti ricercatori temono che le stesse IA possano perseguire obiettivi diversi dai nostri una volta che saranno abbastanza intelligenti da sfuggire al nostro controllo, portando potenzialmente alla privazione di potere dell’umanità o addirittura alla sua completa estinzione. Sfortunatamente, garantire che un’IA più intelligente di noi segua i nostri obiettivi è attualmente considerato un problema tecnico irrisolto – i ricercatori potrebbero risolverlo in tempo, ma non vi è alcuna garanzia. Questo tipo di rischio è meno intuitivo rispetto agli altri e richiede una spiegazione più approfondita — puoi leggere di più qui.
Ci sono anche molte altre cose meno apocalittiche di cui preoccuparsi: una perdita di posti di lavoro su vasta scala, a un ritmo superiore alla capacità della società di adattarsi; la perdita di senso man mano che scompaiono i modi tradizionali in cui le persone si rendono utili; un’estrema instabilità politica e sociale; lo stravolgimento delle istituzioni che non riescono a tenere il passo.
Fortunatamente, credo che nessuno di questi esiti sia inevitabile. E, almeno per quanto riguarda i rischi più catastrofici elencati sopra, la mia impressione è che sia più probabile riuscire a evitarli che il contrario. Detto questo, i rischi in questione sembrano comunque spaventosamente elevati, probabilmente più di quelli associati a qualsiasi altro problema che ci troviamo ad affrontare.
A mio avviso, un mondo che agisse con buon senso si starebbe mobilitando con decisione e coordinando per rallentare drasticamente. Invece, stiamo dormendo al volante.
Non è tutto negativo
Questa attenzione ai rischi fa sembrare che l’IA sia esclusivamente un male. Non credo sia così. Al contrario, se non provocherà una catastrofe di qualche tipo,27 penso che un’IA superintelligente potrebbe rivelarsi una delle più grandi forze positive della storia.
Il ritmo vertiginoso del progresso scientifico ed economico che ho descritto in precedenza potrebbe permetterci di risolvere problemi scientifici altrimenti fuori dalla nostra portata, curare malattie,28 ridurre la povertà, dare origine a un’abbondanza materiale superiore a qualsiasi cosa abbiamo mai conosciuto e favorire la prosperità dell’umanità in modi che oggi è difficile immaginare.29 I potenziali benefici in questo caso sono sbalorditivi.
Mi rendo conto di aver appena detto che il mondo dovrebbe rallentare e ora sto descrivendo gli enormi benefici di continuare al ritmo attuale. Si tratta di un difficile equilibrio tra rischi e benefici.30 Ogni anno di ritardo potrebbe essere un anno in cui delle persone muoiono per malattie che l’IA avrebbe potuto curare; eppure ogni anno in cui ci affrettiamo potrebbe essere un anno in cui costruiamo qualcosa che non siamo in grado di controllare. La posta in gioco non potrebbe essere più alta.
Cosa puoi fare?
Se sei arrivato fin qui e ti senti sopraffatto — credimi, ti capisco. Convivo con questi interrogativi da diversi anni e ci rifletto quasi ogni giorno, e continuo a provare regolarmente ondate di stress, senso di urgenza e talvolta persino incredulità al pensiero che tutto questo possa davvero accadere.
Se tutto questo si rivelasse vero, gli anni a venire potrebbero comportare alcune delle decisioni più determinanti della storia dell’umanità: come verrà sviluppata questa tecnologia, chi la controllerà e con quale rapidità la diffonderemo. È davvero straordinario che ci capiti di essere vivi proprio nel momento giusto per influenzare il corso degli eventi.
Se ti senti convinto (o anche solo incuriosito) da alcune di queste argomentazioni, ti incoraggio ad approfondire l’argomento, a formarti una tua opinione e a riflettere su quali azioni potrebbero avere senso se ti convincessi che queste cose potrebbero davvero accadere. Preparati a far sentire la tua voce — che si tratti di parlarne con persone che conosci, di contattare un rappresentante politico,31 di lavorare più direttamente su questi temi o di qualcos’altro.
E se ti stai chiedendo se avresti un qualche contributo da dare: molte persone senza alcun tipo di background tecnico (me compreso!) sono riuscite a inserirsi rapidamente per dare una mano nel campo dell’IA, e la gamma di attività utili è più ampia di quanto mi aspettassi.
Come punto di partenza per approfondire l’argomento, ho incluso di seguito un elenco delle risorse che ho trovato più utili.
Ho iniziato questa lettera dicendo che è stato strano e mi ha fatto sentire solo avere queste opinioni senza condividerle. Scriverla mi ha aiutato in tal senso, e spero che leggerla sia stato utile. Non so come andranno i prossimi anni, ed è possibile che, guardandomi indietro, proverò imbarazzo per quanto mi fossi sbagliato. Ma se tutto questo fosse anche solo vagamente corretto, penso che rimpiangeremo di non aver iniziato a prestarci attenzione il prima possibile.
George
Link per approfondire
Ecco alcune ottime risorse per imparare da persone che ne sanno molto più di me.
Consigli principali:
- Canale YouTube «AI in Context»: video di altissima qualità, incentrati principalmente sui rischi
- Le analisi di 80,000 Hours sui rischi di IA che cercano di acquisire potere, sulla concentrazione di potere e sull’uso improprio catastrofico dell’IA: tra le migliori risorse per comprendere i rischi
- Lo stesso sito web offre anche questa eccellente risorsa per chiunque sia interessato a dedicare la propria carriera alla risoluzione di questi problemi.
- The AI Doc, ovvero: Come sono diventato un apocalottimista: un nuovo film appena uscito, un’introduzione generale valida e molto godibile alle possibili traiettorie dell’IA.
- Episodio del podcast di 80,000 Hours con Ajeya Cotra: un recente episodio di Ajeya (che ho citato un paio di volte in precedenza) sullo stato dell’IA all’inizio del 2026.
- In generale, ritengo che 80,000 Hours sia la migliore serie di podcast su questi argomenti.
- BlueDot Impact: un’eccellente raccolta di corsi introduttivi gratuiti e altre risorse per chi desidera avvicinarsi a questi argomenti per la prima volta e iniziare a dare il proprio contributo.
Ulteriori letture/ascolti:
- Come non perdere il lavoro a causa dell’intelligenza artificiale: articolo che fa esattamente ciò che dice il titolo!
- The Most Important Century: eccellente blog sull’IA trasformativa e sul perché questo potrebbe essere il periodo più importante della storia dell’umanità
- AI 2027 a cura dell’AI Futures Project: scenario dettagliato di un potenziale decollo dell’IA che avverrebbe nel 2027 (è prima di quanto mi aspetti e prima della stima mediana degli autori, ma resta comunque un’utile rappresentazione di come potrebbero andare le cose)
- Planned Obsolescence: eccellente Substack di Ajeya Cotra e Kelsey Piper sull’IA trasformativa, che include The costs of caution (sui benefici dell’IA) e il recente aggiornamento delle previsioni di Ajeya, che ora si aspetta tempistiche più brevi.
- If Anyone Builds It, Everyone Dies: recente libro di Eliezer Yudkowsky e Nate Soares, incentrato sul rischio di una presa del potere da parte dell’IA; ritengo che sia eccessivamente sicuro nelle sue conclusioni (ovvero, non credo che una superintelligenza ucciderebbe sicuramente tutti), ma rimane comunque un’utile descrizione di alcuni rischi potenziali.
- Macchine di amorevole grazia e L’adolescenza della tecnologia: saggi scritti da Dario Amodei (amministratore delegato di Anthropic) sui potenziali benefici e rischi di un’IA molto avanzata.
Se desideri fare di più
La lettera sopra riportata è stata scritta per condividere il punto di vista di George con chi si avvicina per la prima volta a questi temi. Se hai già familiarità con il rischio legato all’IA e desideri intraprendere azioni più incisive:
- Valuta un cambio di carriera tramite la pagina dedicata alle carriere nell’IA di 80,000 Hours, il miglior punto di partenza per iniziare a pensare di lavorare direttamente su questi temi.
- Dona al Fondo per le sfide emergenti di Longview Philanthropy, che sostiene le organizzazioni impegnate nella sicurezza e nella governance dell’IA.
- Candidati per ottenere un finanziamento per lo sviluppo e la transizione di carriera tramite Coefficient Giving, che finanzia le persone in transizione verso il lavoro sui rischi legati all’IA.