Invito a presentare proposte sulla concentrazione estrema del potere

di Longview Philanthropy

DemocraziaFattore di rischio esistenzialeGovernance dell'IAIntelligenza artificialeRischio legato all'IASalvaguardare la democrazia liberaleSorveglianzaTotalitarismo

Questo invito a presentare proposte è chiuso. Abbiamo smesso di accettare candidature dopo la scadenza del 2 luglio 2026 e non accogliamo più nuove proposte. Per eventuali domande relative a una proposta già presentata, puoi inviare un’e-mail a power-rfp@longview.org.

Longview Philanthropy intende finanziare proposte volte a comprendere meglio e a ridurre il rischio che l’IA favorisca un’estrema concentrazione di potere, ovvero la possibilità che l’IA consenta a un ristretto gruppo di persone di ottenere un controllo duraturo sulla vita di tutti gli altri.

Stiamo finanziando attività in due ambiti:

Sovvenzioni per progetti, programmi, nuovi team e nuove organizzazioni in dodici aree prioritarie (elencate di seguito). Prevediamo che le sovvenzioni tipiche siano inizialmente comprese tra i 100 000 e i 2 milioni di dollari all’anno, per una durata dai 6 ai 18 mesi, ma prenderemo in considerazione proposte al di fuori di questo intervallo se il lavoro lo giustifica; saranno inoltre possibili rinnovi di importo maggiore una volta ottenute prove di successo.
Finanziamento per la carriera destinato a persone che stanno sviluppando o riorientando le proprie competenze nel settore, inclusi esoneri dall’insegnamento, post-dottorati, formazione, studi indipendenti, borse di transizione e spese pertinenti.

È possibile presentare domanda per le Sovvenzioni qui e per il Finanziamento per la carriera qui. La scadenza per la presentazione delle domande per entrambi i percorsi era il 2 luglio 2026. Questo ciclo è ora chiuso e non accettiamo più candidature.

Per eventuali domande, invia un’e-mail a power-rfp@longview.org. Per informazioni su Longview Philanthropy, vedi qui.

Questo potrebbe essere uno dei problemi più importanti al mondo. Se puoi dare un contributo in uno dei settori indicati di seguito, potresti aiutare un numero enorme di persone. Ci auguriamo che presenti la tua candidatura.

(1) Ricerca di base

(2) Monitoraggio della situazione

(3) Integrità dell’IA e lealtà segrete

(4) Politiche delle aziende di frontiera contro l’estrema concentrazione di potere

(5) IA che rispetta la legge

(6) Supervisione dell’IA nel settore pubblico, compresa la sicurezza nazionale

(7) Prevenzione dell’uso improprio delle armi autonome

(8) Protezione contro la sorveglianza di massa abilitata all’IA

(9) Economia politica per un mondo cambiato

(10) Strumenti di IA per informare e dare maggiore potere ai cittadini

(11) Sviluppo della potenza di calcolo nelle democrazie

(12) Sviluppo del settore

Il problema

Riteniamo che i progressi nei sistemi di IA di frontiera nei prossimi cinque anni possano conferire un potere enorme a chi li controlla. Questi soggetti potrebbero acquisire una forte influenza su:

gran parte delle attività attualmente svolte dai lavoratori della conoscenza;
un’estrema concentrazione di risorse finanziarie;
sistemi che sono alla base della maggior parte delle funzioni governative e delle decisioni di mercato;
armi autonome impiegate in contesti militari e di polizia;
sorveglianza di massa sui mondi fisico e digitale;
l’ambiente informativo e la cultura di massa;
gran parte della ricerca scientifica e dello sviluppo all’avanguardia.

Le suddette fonti di potere potrebbero concentrarsi in modo estremo in un piccolo gruppo di persone attraverso alcuni meccanismi:

Sostituzione delle coalizioni e appropriazione delle istituzioni: storicamente, chi mirava al potere centralizzato aveva bisogno della collaborazione di impiegati, soldati, burocrati, giudici, funzionari dei servizi segreti e così via. Se questi ruoli venissero in gran parte automatizzati, perderemmo gran parte del meccanismo di protezione rappresentato dalla capacità dei singoli esseri umani di opporsi, e sarebbe più facile espandere il controllo unilaterale.
Accesso esclusivo: chi è al comando dei sistemi di IA potrebbe sfruttare la propria posizione e le proprie risorse per garantirsi l’accesso esclusivo alle capacità di IA più avanzate e consolidare il controllo sugli impieghi più determinanti. I modelli avanzati potrebbero superare gli esperti umani nella ricerca e sviluppo in campo militare, nelle offensive informatiche, nella strategia politica e legale, nella persuasione e nello sviluppo stesso dell’IA. Gli impieghi di grande rilevanza includono l’ambito militare, la sorveglianza interna, la burocrazia governativa, i sistemi legali, i processi decisionali delle grandi aziende e i mercati globali.
Modelli con lealtà esclusive: un modello esclusivamente leale persegue gli interessi di una singola persona o di un piccolo gruppo (il «mandante») al di sopra di qualsiasi altra fedeltà, considerazione morale o vincolo legale (salvo quando il rispetto di tali vincoli risulti strumentalmente utile al mandante). Queste lealtà possono essere palesi o segrete. Le lealtà segrete introducono nuove minacce, come nel caso di un modello ampiamente diffuso tra governi e mercati che introduca milioni di sottili condizionamenti volti a rafforzare il mandante e a indebolire i suoi avversari.

Non disponiamo di previsioni dettagliate su come potrebbe evolversi la concentrazione di potere. Riteniamo tuttavia plausibile che nei prossimi cinque anni possano verificarsi passaggi difficili da invertire all’interno di questi modelli di minaccia. Le tendenze in termini di capacità relative alle attività basate su agenti autonomi, la possibilità di automatizzare la ricerca e sviluppo sull’IA stessa e una più ampia incertezza suggeriscono la plausibilità di progressi a breve termine sulle capacità rilevanti per l’esercizio del potere.

Se il potere dovesse concentrarsi in modo estremo, ciò potrebbe tradursi in un regime globale in grado di durare per molte generazioni a venire. Un’IA sufficientemente avanzata potrebbe codificare un insieme complesso e articolato di obiettivi e visioni, che finirebbero per consolidarsi grazie a uno schiacciante dominio economico e militare. Le istituzioni autoritarie possono crollare quando i leader invecchiano e muoiono, quando intervengono potenze straniere o quando i cittadini si ribellano. Un regime globale instaurato attraverso una concentrazione di potere resa possibile dall’IA potrebbe diventare resistente a queste fonti di cambiamento.

In sintesi, riteniamo plausibile che:

1. Un’IA trasformativa potrebbe consentire a un piccolo gruppo di persone di ottenere un controllo estremo sulla vita di tutti gli altri.

2. Gli sviluppi chiave per l’instaurazione di questo controllo potrebbero verificarsi entro i prossimi cinque anni.

3. Se entrassimo in un mondo del genere, potrebbe essere estremamente difficile uscirne.

L’estrema concentrazione di potere potrebbe essere uno dei problemi più importanti e trascurati del nostro tempo. Vogliamo finanziare progetti e persone per impedire che ciò accada.

Invito a presentare proposte

Sono previsti due percorsi: Sovvenzioni e Finanziamento per la carriera.

Le Sovvenzioni finanzieranno progetti, programmi, nuovi team e nuove organizzazioni.
Il Finanziamento per la carriera finanzierà le persone affinché sviluppino o riconvertano le proprie competenze per occuparsi dei rischi derivanti dalla concentrazione di potere. Ciò potrebbe includere esoneri dall’insegnamento, post-dottorati, periodi sabbatici, formazione, studi indipendenti o borse di transizione.

Sovvenzioni

Questo problema abbraccia diverse discipline e la nostra comprensione attuale si rivelerà probabilmente incompleta e in parte errata. Vogliamo mantenere una mentalità aperta sugli approcci migliori e sostenere un ampio portafoglio di progetti.

Tuttavia, ci aspettiamo che le proposte eccellenti presentino le seguenti caratteristiche. Abbiamo inoltre individuato delle aree prioritarie che riteniamo meritino un’attenzione particolare.

Candidati ora

Nota: le proposte di natura partitica o volte a influenzare le elezioni non sono ammissibili per questo invito a presentare proposte.

Caratteristiche delle proposte eccellenti

Mirate.
- Le proposte eccellenti si concentrano strettamente sul problema specifico dell’estrema concentrazione di potere resa possibile dall’IA, anziché su questioni correlate come la sicurezza dell’IA, le disuguaglianze esistenti o la politica tecnologica in senso lato.
- Cerchiamo progetti che affrontino un meccanismo specifico attraverso cui l’IA potrebbe portare a un’estrema concentrazione di potere, oppure una difesa contro tale eventualità. Tali difese non devono necessariamente essere specifiche per l’IA, poiché molti pesi e contrappesi si applicano in generale (sebbene l’IA a breve termine possa sottoporre queste misure a una pressione straordinaria).
- Le proposte dovrebbero articolare una chiara teoria del cambiamento: una spiegazione plausibile di come il lavoro ci aiuterà a comprendere o ridurre i rischi sopracitati. Riconosciamo quanto sia difficile formulare teorie del cambiamento precise e sicure in questo ambito. Sosteniamo regolarmente progetti che potrebbero non andare a buon fine e ci aspettiamo che molti beneficiari cambino approccio man mano che imparano. Tuttavia, desideriamo che i candidati riflettano a fondo sulla propria teoria del cambiamento quando scelgono e portano avanti la loro proposta.
Rapide.
- Il panorama dell’IA cambia rapidamente e potrebbero verificarsi sviluppi importanti in tempi brevi.
- Le proposte eccellenti hanno cicli di retroazione brevi, producono output utili in mesi anziché in anni e sono in grado di adattarsi all’evolversi della situazione. Tuttavia, come osservato in precedenza, siamo disponibili a sostenere progetti di lunga durata e su scala.
Ambiziose.
- La scala del problema è vasta. Le proposte eccellenti hanno l’ambizione di affrontare questa sfida e di compiere progressi concreti su sottoproblemi trattabili.
- Non dovrebbero mirare semplicemente a un avanzamento marginale della letteratura o all’organizzazione di incontri.
- Longview dispone delle risorse necessarie per sostenere progetti ambiziosi, se validamente motivati. Ti incoraggiamo a puntare in alto.
Lungimiranti.
- Il mondo è stato colto di sorpresa dalla velocità dei progressi dell’IA e fatica ancora a stare al passo.
- Le proposte non dovrebbero concentrarsi esclusivamente sull’IA al livello di capacità della metà del 2026, sebbene tale livello sia sufficiente a causare problemi inediti in molti campi.
- Le proposte dovrebbero invece, come minimo, prendere in considerazione la tendenza in atto nelle capacità e le implicazioni di una continuazione di tali tendenze per il resto del decennio. Un progresso molto più rapido è plausibile (1, 2, 3), compresa la possibilità di sistemi di IA superiori ai migliori esperti umani in quasi tutti i compiti cognitivi.
- La maggior parte delle aree elencate di seguito vanta già comunità di ricerca attive; questo invito a presentare proposte mira a farle progredire prendendo sul serio le implicazioni radicali del continuo progresso dell’IA.

Aree prioritarie

Siamo particolarmente entusiasti di finanziare progetti nelle dodici aree elencate di seguito. Le proposte al di fuori di queste aree saranno comunque prese in considerazione, ma è meno probabile che ricevano un finanziamento.

Le aree non sono in ordine di priorità. Se hai idee in più aree, dovresti dare la priorità alle proposte che ti entusiasmano di più e che senti più adatte a te. Puoi anche presentare più proposte: se non sarai in grado di realizzarle tutte, ti basterà segnalarlo nelle tue candidature.

Gli esempi elencati sono puramente illustrativi. Speriamo che questo invito a presentare proposte coinvolga un’ampia varietà di discipline, così da far emergere le numerose idee promettenti a cui non abbiamo ancora pensato.

(1) Ricerca di base

La nostra comprensione della minaccia e del panorama delle soluzioni è ancora agli albori. Probabilmente esistono nuovi punti di vista e idee per il settore che potrebbero essere individuati dedicando più tempo alla ricerca.

Le proposte in questo ambito potrebbero includere la modellazione delle minacce, la definizione delle priorità degli interventi e nuovi modelli istituzionali (come strutture pubblico-private che mantengano il controllo distribuito, o proposte per regolamentare l’IA senza concentrare il potere). Potrebbero inoltre comprendere l’approfondimento dei dettagli del problema o la formulazione di visioni positive a cui tendere, ad esempio attraverso l’analisi giuridica, l’economia istituzionale, la filosofia politica o altre discipline.

(2) Monitoraggio della situazione

È probabile che gli sviluppi importanti vengano tenuti segreti, oppure che siano difficili da individuare nel rumore di fondo. È necessario che i difensori siano in grado di reagire in modo rapido e appropriato, e che l’opinione pubblica sia adeguatamente informata per fungere da contrappeso alle entità potenti. Gli sviluppi da monitorare potrebbero includere cambiamenti significativi relativi a:

i rapporti formali o informali tra il governo e gli sviluppatori di frontiera, specialmente quando vengono esercitate pressioni o gli accordi sono destinati a rimanere segreti;
come l’IA viene effettivamente utilizzata nelle funzioni governative critiche, nonché le normative o le politiche interne che ne guidano l’uso;
cambiamenti rilevanti nelle politiche interne o nei modelli di utilizzo delle aziende di frontiera.

Le proposte in questo ambito potrebbero includere la creazione di una capacità analitica OSINT indipendente, oppure l’analisi giuridica.

(3) Integrità dell’IA e lealtà segrete

I sistemi di IA di frontiera potrebbero essere compromessi per favorire gli interessi di un attore specifico — ad esempio uno Stato avversario o un piccolo gruppo all’interno di un’azienda di IA — senza che chi crea o utilizza il modello se ne accorga.

Le proposte in questo ambito potrebbero includere lo sviluppo di metodi per individuare lealtà segrete e di misure di sicurezza in grado di rendere tali tentativi molto più difficili, quali:

l’hashing dei pesi del modello e la loro verifica rispetto a un registro indipendente,
log verificabili dei dati e dei processi di addestramento,
controlli sull’accesso ai dati,
registrazione delle interazioni e degli output del sistema,
controlli sull’accesso ai pesi,
trasparenza sull’utilizzo della potenza di calcolo,
red teaming,
e altro ancora.

Tali meccanismi potrebbero anche essere utilizzati in modo improprio come strumento di controllo statale sull’addestramento dei modelli; pertanto, i candidati devono valutare attentamente i rischi legati al duplice uso.

(4) Politiche delle aziende di frontiera contro l’estrema concentrazione di potere

Le azioni delle aziende di frontiera sono centrali per questo problema. Saranno la regolamentazione o le politiche delle aziende stesse a determinare tali azioni. Riteniamo che vi sia un lavoro prezioso da fare nella definizione di politiche volontarie, nella ricerca di opzioni normative e nella comunicazione educativa con i decisori politici e il pubblico, per garantire che le aziende di frontiera intraprendano i percorsi più responsabili. Tali decisioni includono:

definire i dettagli delle potenziali «linee rosse» riguardo a quali sistemi le aziende forniscano ai governi, a quali condizioni e in base a quali fattori di attivazione visibili al pubblico;
sviluppare e divulgare pubblicamente le specifiche dei modelli destinati all’uso governativo, militare o interno;
implementare e verificare le misure per l’integrità dell’IA menzionate nell’area 3 precedente;
e molte altre ancora.

(5) IA che rispetta la legge

Far sì che gli agenti di IA rispettino la legge sembra una difesa minima contro l’uso improprio di massa nell’economia o nel governo, e riteniamo che si possano compiere progressi in questo ambito. Tuttavia, l’intervento nel suo complesso non è un problema tecnico lineare. In che modo l’IA dovrebbe rendere operativa la legalità? A un’IA potrebbe essere impartito un ordine apparentemente giustificato, ma che il modello ritiene verrebbe dichiarato illegale da un tribunale in caso di revisione. Il modello dovrebbe rifiutare un ordine formalmente valido o presumere di poter prevedere la futura pronuncia di un giudice? Un modello potrebbe ricevere un ordine lecito a livello nazionale ma che probabilmente causerebbe danni su larga scala, agevolerebbe future violazioni della legge, infrangerebbe il diritto internazionale o concentrerebbe il potere. Come dovrebbe bilanciare questi compromessi?

Le proposte in questo ambito potrebbero includere:

affrontare le questioni aperte in questa agenda;
esplorare e fornire orientamenti sui casi complessi in cui il rispetto della legge entra in conflitto con altri desiderata;
compiere progressi tecnici per implementare e garantire il rigoroso rispetto della legge da parte delle IA, specialmente in contesti ad alto rischio;
progettare sistemi attraverso i quali le IA impiegate dal governo possano segnalare richieste illegali.

(6) Supervisione dell’IA nel settore pubblico, compresa la sicurezza nazionale

L’uso dell’IA da parte dei governi avrà probabilmente la posta in gioco più alta. I governi tendono a incontrare limiti in ciò che possono fare perché le burocrazie umane sono lente e imperfette, e i singoli individui possono opporsi, dimettersi o segnalare irregolarità. Un governo le cui funzioni sono svolte da agenti di IA potrebbe perdere questi limiti e, se gli altri poteri dello Stato non tengono il passo, il sistema dei pesi e contrappesi si indebolirà. Intendiamo concentrarci sui paesi democratici, poiché influenzare l’uso dell’IA da parte dei governi autoritari sembra molto meno trattabile. Tuttavia, siamo aperti a proposte su questi ultimi.

Le proposte in questo ambito potrebbero includere:

la ricerca di opzioni normative sui quadri di riferimento per gli appalti e l’impegno in attività di comunicazione informativa rivolte ai decisori politici e al pubblico;
progressi nella designazione dei log delle chat e delle tracce degli agenti come documenti soggetti a obblighi di conservazione (inclusi la limitazione delle finalità e i controlli sull’accesso giudiziario per ridurre al minimo l’uso improprio);
nuovi strumenti legali, tecnici e istituzionali per consentire agli organi di supervisione legislativa e giudiziaria (compresa la stessa IA su larga scala) di restare attivamente coinvolti, in particolare per l’uso dell’IA nei servizi di difesa e di intelligence;
sviluppo di sistemi di audit che tutelano la privacy (inclusa la trasparenza strutturata);
programmi di ricerca e formazione che supportino le capacità degli organismi di controllo, come gli ispettori generali e le commissioni di supervisione legislativa;
affrontare le questioni aperte in questa agenda.

(7) Prevenzione dell’uso improprio delle armi autonome

I droni telecomandati sono diventati una parte essenziale della guerra moderna e attualmente vengono impiegate munizioni vaganti con puntamento autonomo. Le forze armate stanno spingendo per l’autonomia nelle decisioni di ingaggio, nella pianificazione delle missioni, nel coordinamento a livello di forze e nel supporto alle decisioni strategiche, e un’esplosione di intelligenza potrebbe portare a progressi molto più rapidi del previsto. La dottrina militare esistente viene rapidamente riscritta per un mondo in cui i sistemi autonomi costituiscono una parte consistente e in crescita delle forze combattenti. Se le forze armate tratteranno le armi autonome come qualsiasi altro sistema e l’IA sostituirà sempre più i decisori, un numero sempre più esiguo di esseri umani manterrà il controllo. Ciò creerebbe nuovi singoli punti di guasto — vulnerabili alla disattivazione o alla presa di controllo da parte degli avversari, nonché all’uso improprio, sia da parte di individui con accesso privilegiato sia a causa di compromissioni esterne.

Siamo maggiormente interessati ai rischi di concentrazione di potere posti da futuri sistemi con significativi progressi in termini di autonomia, piuttosto che alle questioni attuali relative al controllo umano significativo, al rispetto del diritto internazionale umanitario, alla proliferazione da parte di attori non statali, all’escalation delle crisi e così via.

Le proposte in questo ambito potrebbero includere l’individuazione di catene di comando appropriate per le reti di armi autonome (ad esempio, evitando un controllo eccessivamente centralizzato), misure di salvaguardia contro l’uso improprio, la creazione di norme, nonché lo sviluppo e la promozione di accordi internazionali.

(8) Protezione contro la sorveglianza di massa abilitata all’IA

I governi e le imprese raccolgono ormai dati in massa sia nel mondo fisico che in quello digitale, più velocemente di quanto riescano ad analizzarli. Un’IA potente potrebbe ridurre drasticamente il costo della sorveglianza mirata, consentendo un monitoraggio invasivo di tutti gli oppositori politici, dai manifestanti ai giudici. Una sorveglianza quasi onnipresente potrebbe essere realizzabile già oggi nelle economie avanzate, anche prima di ulteriori potenziamenti hardware, e soprattutto se venisse eliminata la crittografia end-to-end. I diritti alla privacy, alla libertà di espressione e alla libertà di riunione potrebbero trovarsi improvvisamente di fronte a una minaccia estrema, per la quale non siamo preparati.

Le proposte in questo ambito potrebbero includere:

lo sviluppo di modelli di quadri normativi e di analisi sulla sorveglianza interna abilitata all’IA (ad es. 1, 2);
requisiti di trasparenza per una supervisione efficace (come la divulgazione degli acquisti governativi effettuati tramite intermediari commerciali) e/o l’utilizzo dell’IA per potenziare i meccanismi di supervisione legislativa, giudiziaria e pubblica;
l’esplorazione di alternative rispettose della privacy alla sorveglianza di massa senza mandato;
quadri normativi che garantiscano i vantaggi in termini di sicurezza della sorveglianza tramite IA senza consentirne l’abuso.

(9) Economia politica per un mondo cambiato

È probabile che l’IA trasformativa ponga sfide drammatiche all’economia e alla politica tradizionali. L’IA potrebbe accelerare il declino a lungo termine della quota del reddito da lavoro, comprimere i salari dei lavoratori le cui mansioni sono più facilmente sostituibili e generare disoccupazione di massa. Il gettito pubblico potrebbe finire per dipendere dai proventi dell’IA e slegarsi fiscalmente dai cittadini (una maledizione delle risorse legata all’intelligenza). Se la società riuscirà ad affrontare queste e altre sfide con saggezza, sarà in una posizione migliore per resistere a concentrazioni estreme di potere. In caso contrario, il dispotismo diventerà un’ipotesi più probabile.

Le proposte in questo ambito potrebbero includere la modellazione delle suddette minacce alla stabilità, la raccolta e l’analisi di dati empirici e lo sviluppo di modelli istituzionali per sistemi sociali più robusti. In particolare, cambiamenti improvvisi e drammatici potrebbero spingere i paesi a nazionalizzare lo sviluppo dell’IA, presentando rischi significativi di concentrazione di potere. Quali meccanismi o modelli alternativi potrebbero garantire la sicurezza senza questi rischi? Potrebbe essere necessario analizzare, progettare e discutere nuovi meccanismi di mercato o sistemi di tassazione e redistribuzione. La società civile e il nostro dibattito politico devono essere il più possibile informati sugli scenari che potrebbero delinearsi rapidamente. Esempi di lavori pertinenti sono disponibili qui: 1, 2, 3, 4.

(10) Strumenti di IA per informare e dare maggiore potere ai cittadini

L’IA potrebbe saturare e distorcere l’ambiente informativo, ma potrebbe anche potenziare la nostra capacità di monitorare, comprendere e prendere decisioni riguardo al mondo che ci circonda. Gli strumenti di IA potrebbero migliorare il dibattito politico se fossero ben calibrati, adeguatamente incerti, accurati sulle posizioni che rappresentano, fedeli al proprio utente e di supporto alla deliberazione collettiva e al compromesso. L’IA può anche favorire o minare altre dinamiche pubbliche; come può essere orientata verso il primo risultato? Anche senza un’adozione di massa, gli strumenti di IA potrebbero fornire a ogni giornalista, giudice, membro dello staff legislativo, leader della società civile e attivista un team di ricerca equilibrato e di livello esperto. Di default, tuttavia, tali strumenti potrebbero essere offerti in quantità insufficiente dal mercato e non costituire una priorità di progettazione per gli sviluppatori di IA di frontiera.

Le proposte in questo ambito potrebbero includere valutazioni e benchmark per i modelli di frontiera incentrati sulle virtù epistemiche, strumenti e piattaforme per la deliberazione collettiva, oppure lo sviluppo di delegati di IA fedeli.

(11) Sviluppo della potenza di calcolo nelle democrazie

È meno probabile che il potere si concentri in modo pericoloso se la potenza di calcolo alla base dell’IA avanzata è distribuita tra le democrazie alleate anziché detenuta da un singolo paese, e se la potenza di calcolo e l’accesso alle capacità di questo gruppo democratico rimangono nettamente superiori rispetto a quelli dei rivali autoritari. Entrambi gli obiettivi sono favoriti da ambiziosi potenziamenti della potenza di calcolo nelle democrazie alleate piuttosto che negli Stati autoritari.

Le proposte in questo ambito potrebbero includere ricerche e analisi sulla distribuzione geografica della potenza di calcolo e sulle sue implicazioni per l’estrema concentrazione di potere.

(12) Sviluppo del settore

Questo settore è nascente e non vi lavorano direttamente abbastanza persone. Far crescere questo settore rappresenta un intervento ad alto effetto leva e saremmo entusiasti di sostenere progetti che aiutino le persone a conoscerlo e a iniziare a contribuire. Le proposte potrebbero includere:

programmi di formazione e tutoraggio;
eventi (come conferenze, seminari, workshop, hackathon);
risorse e contenuti pubblici (come blog, libri, podcast, video e così via).

Criteri di valutazione

Intendiamo valutare le proposte sulla base dei seguenti criteri:

Teoria del cambiamento. La proposta presenta una teoria del cambiamento plausibile? Ovvero, una descrizione credibile di come, in caso di successo, il lavoro ci aiuterebbe a comprendere meglio o a ridurre la probabilità o la gravità di un’estrema concentrazione di potere. Il finanziamento consentirà di intraprendere le azioni giuste e tali azioni porteranno al raggiungimento dell’obiettivo?
Esperienza pregressa. Il candidato ha fornito la prova di aver portato a termine con successo lavori simili in passato? Oppure la prova di un potenziale promettente per il futuro in questo ambito? Trattandosi di un problema emergente, considereremo rilevante un’ampia gamma di risultati passati e di indicatori attuali.
Giudizio strategico. La concentrazione di potere è un ambito in rapida evoluzione, incerto e delicato. Cerchiamo candidati in grado di prendere decisioni oculate in tali condizioni, ad esempio dimostrando trasparenza del ragionamento, sensibilità alla portata e adattabilità a un panorama dell’IA che si trasforma ogni pochi mesi.
Rischi del progetto. La candidatura identifica le modalità di fallimento più significative e i rischi di conseguenze negative della proposta? Il lavoro in questo ambito potrebbe essere frainteso e politicizzato, o potrebbe ritorcersi contro in altri modi. Non richiediamo progetti a rischio zero, ma ci aspettiamo che i candidati dimostrino di comprendere i rischi e di sapere come mitigarli. Ad esempio, le proposte dovrebbero considerare in che modo i loro output potrebbero essere soggetti a un uso improprio e se potrebbero aggravare altri tipi di rischio estremo (come i rischi derivanti da sistemi di IA orientati al potere).
Costo-efficacia. Le nostre risorse possono produrre il massimo beneficio se il costo dei progetti è commisurato al loro impatto atteso. Ciò non significa che i budget debbano essere ridotti al minimo; significa che budget elevati devono essere giustificati da un alto impatto atteso. Non esitare comunque a presentare proposte ambiziose, includendo sia una versione principale che una versione ambiziosa del progetto, con i relativi budget. Di solito non ci preoccupiamo affatto della percentuale del budget destinata alle spese operative; il livello giusto è quello ottimale per ottenere l’impatto desiderato.

Procedura di candidatura e scadenza

Per candidarti, compila il modulo qui. La candidatura richiede quanto segue:

Dettagli di base sulla sovvenzione e domande di carattere logistico (ad es. dati biografici delle persone coinvolte).
Curriculum vitae o pagine LinkedIn del personale chiave, con indicazione delle precedenti esperienze lavorative, del percorso formativo, dei risultati principali e delle referenze.
Proposta di progetto (300 parole).
Importo del budget principale.

Per le sovvenzioni destinate alle università e ai community college, i costi indiretti non devono superare il 10% dei costi diretti totali.

Per domande sulla candidatura, invia un’e-mail a power-rfp@longview.org. La scadenza per le candidature era il 2 luglio 2026 (questo ciclo è ora chiuso).

Finanziamento per la carriera

Tipi di sostegno

Vogliamo ampliare il numero di persone che lavorano su questo problema, e il finanziamento di progetti, programmi e organizzazioni è un modo fondamentale per farlo. Tuttavia, non tutti hanno una proposta ben definita a cui dedicarsi, e alcuni potrebbero voler esplorare il settore e acquisire competenze prima di fare il grande passo. Siamo lieti di offrire il Finanziamento per la carriera per sostenere chi intende passare a un lavoro ad alto impatto in questo ambito.

Il Finanziamento per la carriera può consistere in uno stipendio e/o nel rimborso delle spese. Lo stipendio sarà determinato dalla durata del periodo, dal costo della vita e da quanto l’esperienza pregressa e i piani del candidato appaiano promettenti per questo settore. È possibile coprire un’ampia gamma di spese, tra cui quelle per i viaggi, i biglietti per le conferenze, i collaboratori esterni, nonché abbonamenti, libri o corsi utili.

Prevediamo che la durata tipica del Finanziamento per la carriera sia di circa 3 mesi, sebbene siano accettabili periodi sia più brevi che più lunghi. Sono possibili periodi prolungati di Finanziamento per la carriera (ad es. 6-12 mesi), ma ciò richiederà un candidato eccellente e un piano di alta qualità su come verrà impiegato il tempo.

Candidati ora

Profili che ci entusiasmano

Un profilo da fondatore che desidera affinare le proprie competenze nel settore per prepararsi ad avviare una nuova organizzazione in questo ambito.
Un generalista di talento che desidera passare a occuparsi a tempo pieno della concentrazione di potere, inclusa la creazione e la gestione di nuovi team e organizzazioni.
Un ricercatore post-dottorato alla ricerca di sostegno finanziario per studiare un aspetto della concentrazione di potere resa possibile dall’IA (ad esempio in diritto, scienze politiche, informatica o economia).
Un docente di diritto, scienze politiche, economia, informatica o discipline affini in cerca di un esonero dall’insegnamento o di un sostegno per un anno sabbatico, al fine di reindirizzare il proprio tempo di ricerca verso un aspetto della concentrazione di potere resa possibile dall’IA.
Un ricercatore tecnico nel campo dell’IA che desideri esplorare il lavoro tecnico sull’IA che rispetta la legge, sull’integrità dell’IA o sugli strumenti di supervisione, al fine di creare una posizione a tempo pieno.
Un accademico o professionista del diritto che intenda sviluppare bozze di leggi modello, quadri dottrinali o teorie del contenzioso relative alla supervisione dell’IA, all’impiego federale dell’IA o alla sorveglianza.
Un ex professionista della sicurezza nazionale, ufficiale militare o veterano dei servizi di intelligence interessato ad applicare le proprie competenze alla supervisione dell’IA in ambito militare e di intelligence, alla dottrina sulle armi autonome o alla supervisione legislativa dell’IA per la sicurezza nazionale.
Un ex funzionario pubblico, collaboratore legislativo o ricercatore in materia di politiche pubbliche che intenda sviluppare riforme concrete per gli appalti governativi relativi all’IA, la rendicontazione o i meccanismi di supervisione interistituzionale.
Un economista o economista politico interessato a esplorare le implicazioni dell’IA per i mercati del lavoro, la fiscalità, la ridistribuzione o le dinamiche della «maledizione delle risorse» relative all’intelligenza.
Un giornalista d’inchiesta, ricercatore OSINT o professionista della comunicazione che intenda dedicarsi al monitoraggio dei laboratori di IA e dell’uso governativo dell’IA, oppure alla sensibilizzazione dell’opinione pubblica sui rischi legati all’IA per le libertà civili.

Criteri di selezione

Le candidature saranno selezionate principalmente sulla base dei seguenti criteri:

Interesse per la concentrazione di potere resa possibile dall’IA e per le questioni correlate. I candidati ideali dimostreranno di comprendere come l’IA interagisca con l’estrema concentrazione di potere e si impegneranno in un lavoro ad alto impatto con una plausibile rilevanza pratica.
Prova del potenziale di impatto, come dimostrato dai risultati precedenti, dall’esperienza lavorativa, dai risultati accademici e dalle referenze.
Promettenti attività pianificate e potenziali attività lavorative future.

Le candidature devono essere conformi a tutte le leggi locali pertinenti e i candidati devono risiedere o avere sede in paesi in cui Longview è in grado di erogare sovvenzioni, come indicato nel modulo di candidatura.

Procedura di candidatura e scadenza

Per candidarti, compila il modulo di candidatura qui. La candidatura richiede quanto segue:

Informazioni biografiche di base e domande di carattere logistico.
Curriculum vitae o pagina LinkedIn che includa le precedenti esperienze lavorative, il percorso formativo e i risultati principali.
Riflessione su cosa ti motiva a voler lavorare su questo argomento (200 parole).
Descrizione di come impiegherai il tuo tempo durante il Finanziamento per la carriera (200 parole).
Riflessione su cosa potresti fare dopo il Finanziamento per la carriera (100 parole).
Finanziamento richiesto e tempistiche.

Per domande sulla candidatura, invia un’e-mail a power-rfp@longview.org. La scadenza per le candidature era il 2 luglio 2026 (questo ciclo è ora chiuso).

Feedback

Intendiamo valutare le proposte man mano che pervengono. Difficilmente forniremo un feedback nella maggior parte dei casi, poiché desideriamo concentrare le nostre risorse sullo sviluppo delle proposte a più alto impatto il più rapidamente possibile.

Requisiti di ammissibilità (per entrambi i percorsi)

Le proposte di natura partitica o volte a influenzare le elezioni non sono ammissibili per questo invito a presentare proposte.

Longview non può selezionare persone fisiche o giuridiche operanti nelle seguenti giurisdizioni: Afghanistan, Bielorussia, Bosnia-Erzegovina, Birmania/Myanmar, Burundi, Repubblica Centrafricana, Ciad, Congo, Cuba, Repubblica Popolare Democratica di Corea (Corea del Nord), Repubblica Democratica del Congo, Eritrea, Etiopia, Guinea, Guinea-Bissau, Haiti, Hong Kong, Iran, Iraq, Libano, Libia, Mali, Myanmar, Nicaragua, Russia, Somalia, Sud Sudan, Sudan (compreso il Darfur), Siria, Ucraina — solo regioni soggette a restrizioni (Crimea, Donetsk, Luhansk, Kherson, Zaporizhzhia), Venezuela, Yemen, Zimbabwe.

Longview non può concedere sovvenzioni a persone fisiche in India o in Cina. Longview può concedere sovvenzioni a organizzazioni non governative indiane registrate ai sensi del Foreign Contribution (Regulation) Act.

Longview si riserva il diritto di escludere ulteriori giurisdizioni in qualsiasi momento in base a requisiti normativi, modifiche legislative o politiche, o altre considerazioni legali o di conformità, senza preavviso.

L’assegnazione del finanziamento è subordinata al completamento soddisfacente della due diligence da parte di Longview e alla sottoscrizione e al rispetto, da parte del beneficiario, dei termini di concessione stabiliti da Longview.

Requisiti di ammissibilità dei candidati e condizioni per l’uso a fini caritatevoli Il presente invito a presentare proposte è aperto a un’ampia gamma di candidati, tra cui organizzazioni non profit, istituti accademici e di ricerca, società a scopo di lucro (comprese le società a responsabilità limitata) e altre persone giuridiche. Non è richiesto che i candidati siano in possesso dello status di ente caritatevole, esente da imposte o equivalente.

Longview Philanthropy è un’organizzazione non profit che opera per il perseguimento degli scopi descritti nella Sezione 501(c)(3) dell’Internal Revenue Code degli Stati Uniti, tra cui la promozione dell’istruzione e della conoscenza e comprensione scientifica. Tutti i finanziamenti concessi nell’ambito del presente invito a presentare proposte devono essere coerenti con tali scopi caritatevoli. Pertanto, le seguenti condizioni si applicheranno alle sovvenzioni concesse a soggetti a scopo di lucro e saranno riportate nell’accordo di sovvenzione:

Allineamento agli scopi caritatevoli. Il progetto finanziato deve perseguire esclusivamente scopi caritatevoli ed educativi ai sensi della Sezione 501(c)(3). I fondi della sovvenzione non possono essere utilizzati in alcun modo che sia incompatibile con tali scopi.
Assenza di benefici privati o generazione di profitto. La sovvenzione non deve comportare per il beneficiario, i suoi proprietari, azionisti, investitori o qualsiasi parte correlata un beneficio privato che non sia puramente accessorio. I fondi della sovvenzione non possono essere utilizzati per generare entrate o profitti, e nessuna parte della sovvenzione può andare a vantaggio di alcun individuo o ente privato, oltre a quanto sia accessorio e necessario per il raggiungimento degli obiettivi caritatevoli del progetto.
Uso esclusivo per le attività del progetto. I fondi della sovvenzione devono essere utilizzati esclusivamente per le attività e i costi descritti nella proposta finanziata. I fondi non possono sovvenzionare, finanziare in modo incrociato o sostenere in altro modo operazioni commerciali, prodotti in grado di generare entrate o attività a scopo di lucro dell’organizzazione.
Disponibilità pubblica dei risultati. Qualsiasi risultato di ricerca, relazione, analisi, dataset, software o altro output prodotto con i fondi della sovvenzione deve essere reso disponibile al pubblico a titolo gratuito ed entro un periodo di tempo ragionevole, a meno che non sussistano legittime preoccupazioni di sicurezza nazionale o pubblica relative alla loro divulgazione. I risultati devono essere resi pubblici prima di poter essere utilizzati internamente o a fini commerciali dal beneficiario. Longview può richiedere che i risultati siano pubblicati su una specifica piattaforma di hosting; le tempistiche e i formati specifici di pubblicazione saranno stabiliti nell’accordo di sovvenzione.
Restrizioni sull’uso commerciale durante il periodo della sovvenzione. Durante il periodo di validità della sovvenzione, il beneficiario non può trarre vantaggi commerciali dai risultati finanziati dalla sovvenzione oltre a quelli accessibili al pubblico in generale attraverso la loro pubblicazione aperta. Qualora Longview stabilisca che le attività finanziate possano produrre benefici privati non accessori, l’accordo di sovvenzione potrà includere condizioni aggiuntive, quali disposizioni per la condivisione delle royalty, restrizioni sull’uso commerciale della proprietà intellettuale o obblighi di restituzione o separazione della proprietà intellettuale finanziata dalla sovvenzione.
Relazioni descrittive e rendicontazione finanziaria. Tutti i beneficiari privi dello status di ente caritatevole saranno tenuti a presentare relazioni periodiche che includano sia una descrizione narrativa delle attività del progetto, dei traguardi raggiunti e di eventuali modifiche sostanziali al piano di progetto, sia una rendicontazione finanziaria completa di come i fondi della sovvenzione sono stati spesi rispetto al budget approvato. La frequenza e il formato delle relazioni saranno specificati nell’accordo di sovvenzione.
Conformità, recupero e restituzione dei fondi. Il mancato rispetto di qualsiasi condizione della sovvenzione può comportare la sospensione o la revoca della stessa, nonché l’obbligo di restituire i fondi non spesi o spesi in modo improprio. Qualora il beneficiario violi le condizioni di disponibilità pubblica o di utilizzo a fini caritatevoli, Longview si riserva il diritto di richiedere la restituzione dell’intero importo della sovvenzione.

Pubblicazione originale: Longview Philanthropy (2026) Request for proposals on extreme power concentration, Longview Philanthropy, 21 di maggio.

Invito a presentare proposte sulla concentrazione estrema del potere

di Longview Philanthropy

DemocraziaFattore di rischio esistenzialeGovernance dell'IAIntelligenza artificialeRischio legato all'IASalvaguardare la democrazia liberaleSorveglianzaTotalitarismo

Stiamo finanziando attività in due ambiti:

Sovvenzioni per progetti, programmi, nuovi team e nuove organizzazioni in dodici aree prioritarie (elencate di seguito). Prevediamo che le sovvenzioni tipiche siano inizialmente comprese tra i 100 000 e i 2 milioni di dollari all’anno, per una durata dai 6 ai 18 mesi, ma prenderemo in considerazione proposte al di fuori di questo intervallo se il lavoro lo giustifica; saranno inoltre possibili rinnovi di importo maggiore una volta ottenute prove di successo.
Finanziamento per la carriera destinato a persone che stanno sviluppando o riorientando le proprie competenze nel settore, inclusi esoneri dall’insegnamento, post-dottorati, formazione, studi indipendenti, borse di transizione e spese pertinenti.

Per eventuali domande, invia un’e-mail a power-rfp@longview.org. Per informazioni su Longview Philanthropy, vedi qui.

(1) Ricerca di base

(2) Monitoraggio della situazione

(3) Integrità dell’IA e lealtà segrete

(4) Politiche delle aziende di frontiera contro l’estrema concentrazione di potere

(5) IA che rispetta la legge

(6) Supervisione dell’IA nel settore pubblico, compresa la sicurezza nazionale

(7) Prevenzione dell’uso improprio delle armi autonome

(8) Protezione contro la sorveglianza di massa abilitata all’IA

(9) Economia politica per un mondo cambiato

(10) Strumenti di IA per informare e dare maggiore potere ai cittadini

(11) Sviluppo della potenza di calcolo nelle democrazie

(12) Sviluppo del settore

Indice

Il problema
Invito a presentare proposte

Il problema

Riteniamo che i progressi nei sistemi di IA di frontiera nei prossimi cinque anni possano conferire un potere enorme a chi li controlla. Questi soggetti potrebbero acquisire una forte influenza su:

gran parte delle attività attualmente svolte dai lavoratori della conoscenza;
un’estrema concentrazione di risorse finanziarie;
sistemi che sono alla base della maggior parte delle funzioni governative e delle decisioni di mercato;
armi autonome impiegate in contesti militari e di polizia;
sorveglianza di massa sui mondi fisico e digitale;
l’ambiente informativo e la cultura di massa;
gran parte della ricerca scientifica e dello sviluppo all’avanguardia.

Le suddette fonti di potere potrebbero concentrarsi in modo estremo in un piccolo gruppo di persone attraverso alcuni meccanismi:

Sostituzione delle coalizioni e appropriazione delle istituzioni: storicamente, chi mirava al potere centralizzato aveva bisogno della collaborazione di impiegati, soldati, burocrati, giudici, funzionari dei servizi segreti e così via. Se questi ruoli venissero in gran parte automatizzati, perderemmo gran parte del meccanismo di protezione rappresentato dalla capacità dei singoli esseri umani di opporsi, e sarebbe più facile espandere il controllo unilaterale.
Accesso esclusivo: chi è al comando dei sistemi di IA potrebbe sfruttare la propria posizione e le proprie risorse per garantirsi l’accesso esclusivo alle capacità di IA più avanzate e consolidare il controllo sugli impieghi più determinanti. I modelli avanzati potrebbero superare gli esperti umani nella ricerca e sviluppo in campo militare, nelle offensive informatiche, nella strategia politica e legale, nella persuasione e nello sviluppo stesso dell’IA. Gli impieghi di grande rilevanza includono l’ambito militare, la sorveglianza interna, la burocrazia governativa, i sistemi legali, i processi decisionali delle grandi aziende e i mercati globali.
Modelli con lealtà esclusive: un modello esclusivamente leale persegue gli interessi di una singola persona o di un piccolo gruppo (il «mandante») al di sopra di qualsiasi altra fedeltà, considerazione morale o vincolo legale (salvo quando il rispetto di tali vincoli risulti strumentalmente utile al mandante). Queste lealtà possono essere palesi o segrete. Le lealtà segrete introducono nuove minacce, come nel caso di un modello ampiamente diffuso tra governi e mercati che introduca milioni di sottili condizionamenti volti a rafforzare il mandante e a indebolire i suoi avversari.

In sintesi, riteniamo plausibile che:

1. Un’IA trasformativa potrebbe consentire a un piccolo gruppo di persone di ottenere un controllo estremo sulla vita di tutti gli altri.

2. Gli sviluppi chiave per l’instaurazione di questo controllo potrebbero verificarsi entro i prossimi cinque anni.

3. Se entrassimo in un mondo del genere, potrebbe essere estremamente difficile uscirne.

L’estrema concentrazione di potere potrebbe essere uno dei problemi più importanti e trascurati del nostro tempo. Vogliamo finanziare progetti e persone per impedire che ciò accada.

Invito a presentare proposte

Sono previsti due percorsi: Sovvenzioni e Finanziamento per la carriera.

Le Sovvenzioni finanzieranno progetti, programmi, nuovi team e nuove organizzazioni.
Il Finanziamento per la carriera finanzierà le persone affinché sviluppino o riconvertano le proprie competenze per occuparsi dei rischi derivanti dalla concentrazione di potere. Ciò potrebbe includere esoneri dall’insegnamento, post-dottorati, periodi sabbatici, formazione, studi indipendenti o borse di transizione.

Sovvenzioni

Tuttavia, ci aspettiamo che le proposte eccellenti presentino le seguenti caratteristiche. Abbiamo inoltre individuato delle aree prioritarie che riteniamo meritino un’attenzione particolare.

Candidati ora

Nota: le proposte di natura partitica o volte a influenzare le elezioni non sono ammissibili per questo invito a presentare proposte.

Caratteristiche delle proposte eccellenti

Mirate.
- Le proposte eccellenti si concentrano strettamente sul problema specifico dell’estrema concentrazione di potere resa possibile dall’IA, anziché su questioni correlate come la sicurezza dell’IA, le disuguaglianze esistenti o la politica tecnologica in senso lato.
- Cerchiamo progetti che affrontino un meccanismo specifico attraverso cui l’IA potrebbe portare a un’estrema concentrazione di potere, oppure una difesa contro tale eventualità. Tali difese non devono necessariamente essere specifiche per l’IA, poiché molti pesi e contrappesi si applicano in generale (sebbene l’IA a breve termine possa sottoporre queste misure a una pressione straordinaria).
- Le proposte dovrebbero articolare una chiara teoria del cambiamento: una spiegazione plausibile di come il lavoro ci aiuterà a comprendere o ridurre i rischi sopracitati. Riconosciamo quanto sia difficile formulare teorie del cambiamento precise e sicure in questo ambito. Sosteniamo regolarmente progetti che potrebbero non andare a buon fine e ci aspettiamo che molti beneficiari cambino approccio man mano che imparano. Tuttavia, desideriamo che i candidati riflettano a fondo sulla propria teoria del cambiamento quando scelgono e portano avanti la loro proposta.
Rapide.
- Il panorama dell’IA cambia rapidamente e potrebbero verificarsi sviluppi importanti in tempi brevi.
- Le proposte eccellenti hanno cicli di retroazione brevi, producono output utili in mesi anziché in anni e sono in grado di adattarsi all’evolversi della situazione. Tuttavia, come osservato in precedenza, siamo disponibili a sostenere progetti di lunga durata e su scala.
Ambiziose.
- La scala del problema è vasta. Le proposte eccellenti hanno l’ambizione di affrontare questa sfida e di compiere progressi concreti su sottoproblemi trattabili.
- Non dovrebbero mirare semplicemente a un avanzamento marginale della letteratura o all’organizzazione di incontri.
- Longview dispone delle risorse necessarie per sostenere progetti ambiziosi, se validamente motivati. Ti incoraggiamo a puntare in alto.
Lungimiranti.
- Il mondo è stato colto di sorpresa dalla velocità dei progressi dell’IA e fatica ancora a stare al passo.
- Le proposte non dovrebbero concentrarsi esclusivamente sull’IA al livello di capacità della metà del 2026, sebbene tale livello sia sufficiente a causare problemi inediti in molti campi.
- Le proposte dovrebbero invece, come minimo, prendere in considerazione la tendenza in atto nelle capacità e le implicazioni di una continuazione di tali tendenze per il resto del decennio. Un progresso molto più rapido è plausibile (1, 2, 3), compresa la possibilità di sistemi di IA superiori ai migliori esperti umani in quasi tutti i compiti cognitivi.
- La maggior parte delle aree elencate di seguito vanta già comunità di ricerca attive; questo invito a presentare proposte mira a farle progredire prendendo sul serio le implicazioni radicali del continuo progresso dell’IA.

Aree prioritarie

(1) Ricerca di base

(2) Monitoraggio della situazione

i rapporti formali o informali tra il governo e gli sviluppatori di frontiera, specialmente quando vengono esercitate pressioni o gli accordi sono destinati a rimanere segreti;
come l’IA viene effettivamente utilizzata nelle funzioni governative critiche, nonché le normative o le politiche interne che ne guidano l’uso;
cambiamenti rilevanti nelle politiche interne o nei modelli di utilizzo delle aziende di frontiera.

Le proposte in questo ambito potrebbero includere la creazione di una capacità analitica OSINT indipendente, oppure l’analisi giuridica.

(3) Integrità dell’IA e lealtà segrete

Le proposte in questo ambito potrebbero includere lo sviluppo di metodi per individuare lealtà segrete e di misure di sicurezza in grado di rendere tali tentativi molto più difficili, quali:

l’hashing dei pesi del modello e la loro verifica rispetto a un registro indipendente,
log verificabili dei dati e dei processi di addestramento,
controlli sull’accesso ai dati,
registrazione delle interazioni e degli output del sistema,
controlli sull’accesso ai pesi,
trasparenza sull’utilizzo della potenza di calcolo,
red teaming,
e altro ancora.

(4) Politiche delle aziende di frontiera contro l’estrema concentrazione di potere

definire i dettagli delle potenziali «linee rosse» riguardo a quali sistemi le aziende forniscano ai governi, a quali condizioni e in base a quali fattori di attivazione visibili al pubblico;
sviluppare e divulgare pubblicamente le specifiche dei modelli destinati all’uso governativo, militare o interno;
implementare e verificare le misure per l’integrità dell’IA menzionate nell’area 3 precedente;
e molte altre ancora.

(5) IA che rispetta la legge

Le proposte in questo ambito potrebbero includere:

affrontare le questioni aperte in questa agenda;
esplorare e fornire orientamenti sui casi complessi in cui il rispetto della legge entra in conflitto con altri desiderata;
compiere progressi tecnici per implementare e garantire il rigoroso rispetto della legge da parte delle IA, specialmente in contesti ad alto rischio;
progettare sistemi attraverso i quali le IA impiegate dal governo possano segnalare richieste illegali.

(6) Supervisione dell’IA nel settore pubblico, compresa la sicurezza nazionale

Le proposte in questo ambito potrebbero includere:

la ricerca di opzioni normative sui quadri di riferimento per gli appalti e l’impegno in attività di comunicazione informativa rivolte ai decisori politici e al pubblico;
progressi nella designazione dei log delle chat e delle tracce degli agenti come documenti soggetti a obblighi di conservazione (inclusi la limitazione delle finalità e i controlli sull’accesso giudiziario per ridurre al minimo l’uso improprio);
nuovi strumenti legali, tecnici e istituzionali per consentire agli organi di supervisione legislativa e giudiziaria (compresa la stessa IA su larga scala) di restare attivamente coinvolti, in particolare per l’uso dell’IA nei servizi di difesa e di intelligence;
sviluppo di sistemi di audit che tutelano la privacy (inclusa la trasparenza strutturata);
programmi di ricerca e formazione che supportino le capacità degli organismi di controllo, come gli ispettori generali e le commissioni di supervisione legislativa;
affrontare le questioni aperte in questa agenda.

(7) Prevenzione dell’uso improprio delle armi autonome

(8) Protezione contro la sorveglianza di massa abilitata all’IA

Le proposte in questo ambito potrebbero includere:

lo sviluppo di modelli di quadri normativi e di analisi sulla sorveglianza interna abilitata all’IA (ad es. 1, 2);
requisiti di trasparenza per una supervisione efficace (come la divulgazione degli acquisti governativi effettuati tramite intermediari commerciali) e/o l’utilizzo dell’IA per potenziare i meccanismi di supervisione legislativa, giudiziaria e pubblica;
l’esplorazione di alternative rispettose della privacy alla sorveglianza di massa senza mandato;
quadri normativi che garantiscano i vantaggi in termini di sicurezza della sorveglianza tramite IA senza consentirne l’abuso.

(9) Economia politica per un mondo cambiato

(10) Strumenti di IA per informare e dare maggiore potere ai cittadini

(11) Sviluppo della potenza di calcolo nelle democrazie

Le proposte in questo ambito potrebbero includere ricerche e analisi sulla distribuzione geografica della potenza di calcolo e sulle sue implicazioni per l’estrema concentrazione di potere.

(12) Sviluppo del settore

programmi di formazione e tutoraggio;
eventi (come conferenze, seminari, workshop, hackathon);
risorse e contenuti pubblici (come blog, libri, podcast, video e così via).

Criteri di valutazione

Intendiamo valutare le proposte sulla base dei seguenti criteri:

Teoria del cambiamento. La proposta presenta una teoria del cambiamento plausibile? Ovvero, una descrizione credibile di come, in caso di successo, il lavoro ci aiuterebbe a comprendere meglio o a ridurre la probabilità o la gravità di un’estrema concentrazione di potere. Il finanziamento consentirà di intraprendere le azioni giuste e tali azioni porteranno al raggiungimento dell’obiettivo?
Esperienza pregressa. Il candidato ha fornito la prova di aver portato a termine con successo lavori simili in passato? Oppure la prova di un potenziale promettente per il futuro in questo ambito? Trattandosi di un problema emergente, considereremo rilevante un’ampia gamma di risultati passati e di indicatori attuali.
Giudizio strategico. La concentrazione di potere è un ambito in rapida evoluzione, incerto e delicato. Cerchiamo candidati in grado di prendere decisioni oculate in tali condizioni, ad esempio dimostrando trasparenza del ragionamento, sensibilità alla portata e adattabilità a un panorama dell’IA che si trasforma ogni pochi mesi.
Rischi del progetto. La candidatura identifica le modalità di fallimento più significative e i rischi di conseguenze negative della proposta? Il lavoro in questo ambito potrebbe essere frainteso e politicizzato, o potrebbe ritorcersi contro in altri modi. Non richiediamo progetti a rischio zero, ma ci aspettiamo che i candidati dimostrino di comprendere i rischi e di sapere come mitigarli. Ad esempio, le proposte dovrebbero considerare in che modo i loro output potrebbero essere soggetti a un uso improprio e se potrebbero aggravare altri tipi di rischio estremo (come i rischi derivanti da sistemi di IA orientati al potere).
Costo-efficacia. Le nostre risorse possono produrre il massimo beneficio se il costo dei progetti è commisurato al loro impatto atteso. Ciò non significa che i budget debbano essere ridotti al minimo; significa che budget elevati devono essere giustificati da un alto impatto atteso. Non esitare comunque a presentare proposte ambiziose, includendo sia una versione principale che una versione ambiziosa del progetto, con i relativi budget. Di solito non ci preoccupiamo affatto della percentuale del budget destinata alle spese operative; il livello giusto è quello ottimale per ottenere l’impatto desiderato.

Procedura di candidatura e scadenza

Per candidarti, compila il modulo qui. La candidatura richiede quanto segue:

Dettagli di base sulla sovvenzione e domande di carattere logistico (ad es. dati biografici delle persone coinvolte).
Curriculum vitae o pagine LinkedIn del personale chiave, con indicazione delle precedenti esperienze lavorative, del percorso formativo, dei risultati principali e delle referenze.
Proposta di progetto (300 parole).
Importo del budget principale.

Per le sovvenzioni destinate alle università e ai community college, i costi indiretti non devono superare il 10% dei costi diretti totali.

Per domande sulla candidatura, invia un’e-mail a power-rfp@longview.org. La scadenza per le candidature era il 2 luglio 2026 (questo ciclo è ora chiuso).

Finanziamento per la carriera

Tipi di sostegno

Candidati ora

Profili che ci entusiasmano

Un profilo da fondatore che desidera affinare le proprie competenze nel settore per prepararsi ad avviare una nuova organizzazione in questo ambito.
Un generalista di talento che desidera passare a occuparsi a tempo pieno della concentrazione di potere, inclusa la creazione e la gestione di nuovi team e organizzazioni.
Un ricercatore post-dottorato alla ricerca di sostegno finanziario per studiare un aspetto della concentrazione di potere resa possibile dall’IA (ad esempio in diritto, scienze politiche, informatica o economia).
Un docente di diritto, scienze politiche, economia, informatica o discipline affini in cerca di un esonero dall’insegnamento o di un sostegno per un anno sabbatico, al fine di reindirizzare il proprio tempo di ricerca verso un aspetto della concentrazione di potere resa possibile dall’IA.
Un ricercatore tecnico nel campo dell’IA che desideri esplorare il lavoro tecnico sull’IA che rispetta la legge, sull’integrità dell’IA o sugli strumenti di supervisione, al fine di creare una posizione a tempo pieno.
Un accademico o professionista del diritto che intenda sviluppare bozze di leggi modello, quadri dottrinali o teorie del contenzioso relative alla supervisione dell’IA, all’impiego federale dell’IA o alla sorveglianza.
Un ex professionista della sicurezza nazionale, ufficiale militare o veterano dei servizi di intelligence interessato ad applicare le proprie competenze alla supervisione dell’IA in ambito militare e di intelligence, alla dottrina sulle armi autonome o alla supervisione legislativa dell’IA per la sicurezza nazionale.
Un ex funzionario pubblico, collaboratore legislativo o ricercatore in materia di politiche pubbliche che intenda sviluppare riforme concrete per gli appalti governativi relativi all’IA, la rendicontazione o i meccanismi di supervisione interistituzionale.
Un economista o economista politico interessato a esplorare le implicazioni dell’IA per i mercati del lavoro, la fiscalità, la ridistribuzione o le dinamiche della «maledizione delle risorse» relative all’intelligenza.
Un giornalista d’inchiesta, ricercatore OSINT o professionista della comunicazione che intenda dedicarsi al monitoraggio dei laboratori di IA e dell’uso governativo dell’IA, oppure alla sensibilizzazione dell’opinione pubblica sui rischi legati all’IA per le libertà civili.

Criteri di selezione

Le candidature saranno selezionate principalmente sulla base dei seguenti criteri:

Interesse per la concentrazione di potere resa possibile dall’IA e per le questioni correlate. I candidati ideali dimostreranno di comprendere come l’IA interagisca con l’estrema concentrazione di potere e si impegneranno in un lavoro ad alto impatto con una plausibile rilevanza pratica.
Prova del potenziale di impatto, come dimostrato dai risultati precedenti, dall’esperienza lavorativa, dai risultati accademici e dalle referenze.
Promettenti attività pianificate e potenziali attività lavorative future.

Procedura di candidatura e scadenza

Per candidarti, compila il modulo di candidatura qui. La candidatura richiede quanto segue:

Informazioni biografiche di base e domande di carattere logistico.
Curriculum vitae o pagina LinkedIn che includa le precedenti esperienze lavorative, il percorso formativo e i risultati principali.
Riflessione su cosa ti motiva a voler lavorare su questo argomento (200 parole).
Descrizione di come impiegherai il tuo tempo durante il Finanziamento per la carriera (200 parole).
Riflessione su cosa potresti fare dopo il Finanziamento per la carriera (100 parole).
Finanziamento richiesto e tempistiche.

Per domande sulla candidatura, invia un’e-mail a power-rfp@longview.org. La scadenza per le candidature era il 2 luglio 2026 (questo ciclo è ora chiuso).

Feedback

Requisiti di ammissibilità (per entrambi i percorsi)

Le proposte di natura partitica o volte a influenzare le elezioni non sono ammissibili per questo invito a presentare proposte.

Allineamento agli scopi caritatevoli. Il progetto finanziato deve perseguire esclusivamente scopi caritatevoli ed educativi ai sensi della Sezione 501(c)(3). I fondi della sovvenzione non possono essere utilizzati in alcun modo che sia incompatibile con tali scopi.
Assenza di benefici privati o generazione di profitto. La sovvenzione non deve comportare per il beneficiario, i suoi proprietari, azionisti, investitori o qualsiasi parte correlata un beneficio privato che non sia puramente accessorio. I fondi della sovvenzione non possono essere utilizzati per generare entrate o profitti, e nessuna parte della sovvenzione può andare a vantaggio di alcun individuo o ente privato, oltre a quanto sia accessorio e necessario per il raggiungimento degli obiettivi caritatevoli del progetto.
Uso esclusivo per le attività del progetto. I fondi della sovvenzione devono essere utilizzati esclusivamente per le attività e i costi descritti nella proposta finanziata. I fondi non possono sovvenzionare, finanziare in modo incrociato o sostenere in altro modo operazioni commerciali, prodotti in grado di generare entrate o attività a scopo di lucro dell’organizzazione.
Disponibilità pubblica dei risultati. Qualsiasi risultato di ricerca, relazione, analisi, dataset, software o altro output prodotto con i fondi della sovvenzione deve essere reso disponibile al pubblico a titolo gratuito ed entro un periodo di tempo ragionevole, a meno che non sussistano legittime preoccupazioni di sicurezza nazionale o pubblica relative alla loro divulgazione. I risultati devono essere resi pubblici prima di poter essere utilizzati internamente o a fini commerciali dal beneficiario. Longview può richiedere che i risultati siano pubblicati su una specifica piattaforma di hosting; le tempistiche e i formati specifici di pubblicazione saranno stabiliti nell’accordo di sovvenzione.
Restrizioni sull’uso commerciale durante il periodo della sovvenzione. Durante il periodo di validità della sovvenzione, il beneficiario non può trarre vantaggi commerciali dai risultati finanziati dalla sovvenzione oltre a quelli accessibili al pubblico in generale attraverso la loro pubblicazione aperta. Qualora Longview stabilisca che le attività finanziate possano produrre benefici privati non accessori, l’accordo di sovvenzione potrà includere condizioni aggiuntive, quali disposizioni per la condivisione delle royalty, restrizioni sull’uso commerciale della proprietà intellettuale o obblighi di restituzione o separazione della proprietà intellettuale finanziata dalla sovvenzione.
Relazioni descrittive e rendicontazione finanziaria. Tutti i beneficiari privi dello status di ente caritatevole saranno tenuti a presentare relazioni periodiche che includano sia una descrizione narrativa delle attività del progetto, dei traguardi raggiunti e di eventuali modifiche sostanziali al piano di progetto, sia una rendicontazione finanziaria completa di come i fondi della sovvenzione sono stati spesi rispetto al budget approvato. La frequenza e il formato delle relazioni saranno specificati nell’accordo di sovvenzione.
Conformità, recupero e restituzione dei fondi. Il mancato rispetto di qualsiasi condizione della sovvenzione può comportare la sospensione o la revoca della stessa, nonché l’obbligo di restituire i fondi non spesi o spesi in modo improprio. Qualora il beneficiario violi le condizioni di disponibilità pubblica o di utilizzo a fini caritatevoli, Longview si riserva il diritto di richiedere la restituzione dell’intero importo della sovvenzione.

Pubblicazione originale: Longview Philanthropy (2026) Request for proposals on extreme power concentration, Longview Philanthropy, 21 di maggio.