Insights Investing
Allocazione del capitale, governance e rischio nell'ecosistema della sicurezza dell'IA: analisi del modello filantropico di Vitalik Buterin
Podcast · Ascolta (22 min)
Indice
- 1. L'evoluzione dell'Altruismo Efficace: dalla salute globale alla sicurezza dell'IA
- 2. Dinamiche di allocazione del capitale: guadagni inattesi dalle criptovalute e governance filantropica
- 3. Dinamiche dei laboratori e struttura del mercato: OpenAI, Anthropic e sicurezza a codice aperto
- 4. Quadri ideologici e gestione del rischio: e/acc contro d/acc
- 5. Numeri chiave
- 6. Cosa ci farebbe cambiare opinione
- 7. Fonti
Questo articolo analizza l'evoluzione storica del movimento dell'Altruismo Efficace (EA), la concentrazione del capitale nelle reti di finanziamento della sicurezza dell'IA e i meccanismi di governance che guidano i laboratori di intelligenza artificiale di frontiera, attingendo direttamente alle riflessioni condivise dal cofondatore di Ethereum Vitalik Buterin su Silicon Valley 101. Concludiamo che l'allocazione iperconcentrata del capitale e le strutture di governance dei laboratori chiusi generano una grave fragilità istituzionale, rischi di cattura regolatoria e deterioramento del fossato economico (moat), rendendo i meccanismi di difesa decentralizzati (d/acc) essenziali per la resilienza dell'ecosistema nel lungo periodo. Per gli investitori tecnologici orientati al valore, comprendere queste dinamiche strutturali offre una prospettiva analitica fondamentale per incorporare nei prezzi i rischi estremi catastrofici, valutare l'efficienza dell'allocazione del capitale e analizzare la solidità operativa a lungo termine delle imprese tecnologiche di frontiera.
1. L'evoluzione dell'Altruismo Efficace: dalla salute globale alla sicurezza dell'IA#
Il movimento dell'Altruismo Efficace (EA) ha subito una trasformazione fondamentale del proprio paradigma di allocazione del capitale sin dalla sua nascita. Inizialmente ancorato a modelli di intervento empirici e altamente misurabili, come le valutazioni di GiveWell sulle iniziative per la salute globale caratterizzate da un buon rapporto costo-efficacia, tra cui il finanziamento di zanzariere da parte della Against Malaria Foundation (AMF), il movimento mirava a massimizzare il beneficio diretto per il benessere umano per ogni dollaro speso. Cruciale per questa prima formazione di capitale fu la filosofia del «Guadagnare per donare», che incoraggiava le persone più capaci a intraprendere carriere remunerative nei mercati finanziari di Wall Street e presso gli operatori tradizionali dell'allocazione del capitale, convertendo i guadagni finanziari privati in canali dedicati all'erogazione di contributi filantropici. Nel tempo, il movimento ha attraversato quattro fasi storiche distinte:
- Salute globale e sviluppo: Priorità a interventi basati su evidenze e altamente quantificabili per alleviare la povertà e le malattie nel mondo.
- Lungotermismo: Ampliamento dell'orizzonte del tasso di sconto etico per concentrarsi sui meccanismi di tutela delle generazioni future e sulla mitigazione dei rischi catastrofici globali.
- La crisi della fiducia istituzionale: Un grave shock di credibilità a seguito del crollo di Sam Bankman-Fried (SBF) e di FTX, importante finanziatore delle istituzioni EA, che ha messo in luce vulnerabilità strutturali di governance nei canali di finanziamento dell'ecosistema.
- Attenzione alla sicurezza dell'IA di frontiera: Riconcentrazione del capitale e delle risorse umane sulla mitigazione del rischio esistenziale ($P(\text{doom})$) e sulla ricerca tecnica sull'allineamento dell'IA.
Figure intellettuali di primo piano hanno guidato questa traiettoria filosofica e strutturale. William MacAskill, già professore associato di filosofia all'Università di Oxford, ha cofondato Giving What We Can e 80,000 Hours, affermandosi come uno dei principali sostenitori del lungotermismo. Toby Ord, filosofo australiano e cofondatore di Giving What We Can, ha sviluppato i primi quadri teorici dell'EA attraverso uno studio rigoroso della povertà globale e delle minacce esistenziali al potenziale a lungo termine dell'umanità. Parallelamente, Eliezer Yudkowsky, cofondatore del Machine Intelligence Research Institute (MIRI) e pensatore fondativo della comunità razionalista online LessWrong, ha spostato l'attenzione analitica della comunità verso le distorsioni cognitive, il processo decisionale razionale e i rischi catastrofici legati all'allineamento dell'IA.
L'allocazione del capitale umano all'interno di questo ecosistema è stata attuata principalmente attraverso 80,000 Hours, un'organizzazione senza scopo di lucro di consulenza professionale cofondata da MacAskill e Benjamin Todd. Il nome deriva dal numero approssimativo di ore lavorative nella vita professionale di una persona; 80,000 Hours ha sistematicamente indirizzato talenti altamente qualificati in ambito tecnologico e matematico dalla finanza aziendale tradizionale verso la ricerca sull'allineamento dell'IA, l'ingegneria della sicurezza e le politiche tecnologiche, creando un canale intellettuale che collega i talenti della Silicon Valley alle iniziative senza scopo di lucro per la sicurezza.
2. Dinamiche di allocazione del capitale: guadagni inattesi dalle criptovalute e governance filantropica#
L'afflusso di capitale non tradizionale ha riconfigurato profondamente le strutture degli incentivi e la scala operativa delle organizzazioni per la sicurezza dell'IA. Il cofondatore di Ethereum Vitalik Buterin ha descritto un cambiamento importante avvenuto quando ha ricevuto inaspettatamente un'enorme distribuzione di criptovalute basate su meme (token Dogecoin e Shiba Inu). Convertendo queste attività volatili, Buterin ha generato centinaia di milioni di dollari di capitale filantropico liquido.
L'impiego di queste risorse inattese ha interessato diversi ambiti: * Future of Life Institute (FLI): Un'importante organizzazione senza scopo di lucro concentrata sulla mitigazione dei rischi delle tecnologie avanzate, cofondata dal cofondatore di Skype Jaan Tallinn, che ha ricevuto ingenti capitali da Buterin. * CryptoRelief: Un'iniziativa avviata dal cofondatore di Polygon Sandeep Nailwal durante la crisi del COVID-19 in India, finanziata con le attività in criptovalute di Buterin. * Balvi Fund: Un veicolo specializzato diretto da Buterin che ha sostenuto PopVax, un'azienda biotecnologica indiana impegnata nello sviluppo di piattaforme vaccinali aperte e immunoterapie contro il cancro.
Tuttavia, Buterin ha espresso divergenze strategiche riguardo al proprio sostegno finanziario al FLI. Quando il FLI ha riorientato il proprio obiettivo istituzionale dalla ricerca di base sui rischi tecnologici alla promozione attiva di politiche sull'IA e dell'intervento regolatorio statale, Buterin ha rivalutato i propri impegni di finanziamento. Valutare i rendimenti marginali diretti diventa intrinsecamente più difficile quando si passa da interventi verificabili a favore del benessere umano (ad esempio, lo sviluppo di vaccini o la prevenzione delle malattie) alle attività di pressione politica e di influenza.
Questo cambiamento riflette interrogativi più ampi sulla concentrazione del capitale nel panorama filantropico della sicurezza dell'IA. Dominato da reti di grandi donatori, come la rete Good Ventures / Coefficient Giving (già Open Philanthropy) di Dustin Moskovitz (cofondatore di Facebook e Asana) e Cari Tuna, insieme al Survival and Flourishing Fund (SFF) di Jaan Tallinn, l'ecosistema presenta un'estrema densità di capitale. In particolare, il duplice ruolo di Tallinn come cofondatore del FLI e principale sostenitore del SFF evidenzia quanto sia effettivamente concentrata la rete di donatori sottostante.
Dal punto di vista di un investitore orientato al valore, questa concentrazione genera una marcata diminuzione dei rendimenti marginali del capitale: un deterioramento del ROIC filantropico. Quando il capitale si sposta dall'allineamento tecnico alle attività di pressione politica in ambiti saturi, l'utilità marginale dei dollari aggiuntivi diminuisce drasticamente, mentre aumenta l'esposizione agli stalli politici. Per esplorare strutture organizzative alternative, Buterin ha partecipato a esperimenti di governance nel mondo reale, tra cui la coorganizzazione di Zuzalu in Montenegro nel 2023. Zuzalu è stato un esperimento di comunità temporanea volto a testare il coordinamento decentralizzato, la governance volontaria e l'allocazione rapida delle risorse al di fuori delle istituzioni aziendali o statali centralizzate, contribuendo direttamente alla prospettiva di Buterin sull'efficienza dell'allocazione del capitale.
3. Dinamiche dei laboratori e struttura del mercato: OpenAI, Anthropic e sicurezza a codice aperto#
La frontiera commerciale dell'intelligenza artificiale presenta netti contrasti strutturali nella governance aziendale, negli impegni di sicurezza e nei fossati economici (moat) competitivi:
- OpenAI: È passata dalle proprie radici fondative di istituzione di ricerca aperta e senza scopo di lucro a un'impresa orientata al commercio, bilanciando la rapidità commerciale con i propri mandati originari di sicurezza e apertura.
- Anthropic: Fondata con un'attenzione strutturale alla sicurezza e all'interpretabilità dell'IA. In particolare, il cofondatore di Anthropic Chris Olah ha guidato ricerche pionieristiche sull'interpretabilità meccanicistica, cercando di decifrare i meccanismi interni e le rappresentazioni neurali dei modelli complessi.
Questo contesto operativo affronta tensioni persistenti tra concorrenza di mercato, rapida implementazione commerciale, valutazioni di sicurezza e diffusione di modelli a codice aperto. La concorrenza commerciale aggressiva tra i laboratori di frontiera indebolisce sistematicamente gli impegni volontari di sicurezza. Questa tensione strutturale è stata evidenziata nel settembre 2026, quando il ricercatore sulla sicurezza Jacob Coxon, che in precedenza aveva svolto ricerche sia presso OpenAI sia presso Anthropic, ha lasciato la ricerca nei laboratori di frontiera, lanciando un avvertimento pubblico sulle dinamiche della corsa competitiva e sulle pressioni concorrenziali che accelerano i rischi dell'implementazione.
Parallelamente, l'apparato di supervisione da parte di soggetti terzi è stato sottoposto a un intenso scrutinio. Il commentatore online Kevin Bass ha evidenziato pubblicamente le reti finanziarie e interpersonali che collegano laboratori commerciali come Anthropic, valutatori indipendenti della sicurezza e importanti istituzioni donatrici. Organismi di valutazione senza scopo di lucro come METR (Valutazione dei modelli e ricerca sulle minacce) operano al centro di potenziali rischi di cattura regolatoria e conflitti di interesse. Quando i processi di valutazione, i flussi di finanziamento e le proposte normative sono controllati da una rete strettamente interconnessa di donatori e laboratori proprietari, il rischio di distorsione istituzionale aumenta sensibilmente.
Per gli investitori tecnologici orientati al valore, fare affidamento sulla governance dei laboratori chiusi e sulle attività di pressione a livello statale genera una grave «fragilità agli shock regolatori» e un «deterioramento del fossato economico (moat)». I fossati economici (moat) costruiti sulla cattura regolatoria o sulla segretezza proprietaria sono vulnerabili; se i modelli a codice aperto raggiungono la parità di capacità o i meccanismi di difesa decentralizzati prendono piede, i fossati economici (moat) commerciali dei laboratori chiusi si eroderanno rapidamente sotto l'azione delle forze concorrenziali del mercato.
4. Quadri ideologici e gestione del rischio: e/acc contro d/acc#
Il dibattito sull'implementazione tecnologica si è organizzato in schieramenti ideologici contrapposti: * Accelerazionismo efficace (e/acc): Sostiene uno sviluppo tecnologico senza restrizioni, confidando nei meccanismi di mercato e nei rapidi cicli di innovazione per risolvere i rischi a valle. * Movimento per la pausa/il rallentamento (ad esempio, PauseAI): Un movimento dal basso che promuove divieti internazionali o sospensioni dello sviluppo dell'IA di frontiera finché non sia possibile garantire la sicurezza e la supervisione democratica.
Vitalik Buterin propone un quadro alternativo denominato d/acc (accelerazionismo difensivo, o accelerazionismo con priorità alla difesa). Anziché affidarsi a restrizioni statali imposte dall'alto o a un'accelerazione incontrollata, d/acc privilegia il rapido sviluppo di tecnologie difensive decentralizzate progettate per proteggere la società dalle vulnerabilità catastrofiche senza concentrare il potere.
Per illustrare d/acc, Buterin fa riferimento alla salute pubblica e alla difesa dalle pandemie: invece di affidarsi esclusivamente alla coercizione dall'alto o a confinamenti centralizzati, una biodifesa efficace mette a disposizione di individui e comunità strumenti diagnostici a codice aperto, sistemi di filtrazione dell'aria e piattaforme vaccinali decentralizzate (come PopVax). Applicato all'intelligenza artificiale, d/acc sostiene strumenti difensivi decentralizzati, verificabilità del codice aperto e contrappesi istituzionali. Anziché riporre fiducia incondizionata in un oligopolio chiuso di laboratori aziendali, d/acc si affida a molteplici sistemi concorrenti e imperfetti che si sorvegliano reciprocamente per prevenire singoli punti di cedimento istituzionale.
Un requisito fondamentale del quadro d/acc è l'umiltà epistemica: riconoscere i limiti fondamentali di ciò che non sappiamo quando formuliamo previsioni su sistemi tecnologici complessi ed emergenti. L'umiltà epistemica costituisce una disciplina primaria di gestione del rischio, evitando un'eccessiva dipendenza da previsioni tecnologiche dogmatiche o dalla pianificazione centralizzata. Per gli investitori di lungo periodo, l'analisi di queste strutture di governance offre un quadro chiaro per valutare la solidità aziendale. Le imprese che fanno affidamento su strutture aziendali chiuse e sulla cattura regolatoria affrontano rischi sostanziali di shock legislativi, reazioni pubbliche avverse e cedimenti operativi concentrati in un singolo punto. Al contrario, le entità che costruiscono solide capacità difensive, architetture aperte e una governance resiliente articolata su più sistemi dimostrano una maggiore solidità operativa in condizioni di stress. I lettori sono invitati a esplorare ulteriori ricerche aziendali a codice aperto sul sito di DeepValues Research o a verificare il valore intrinseco di un'azione nell'app DeepValues.
5. Numeri chiave#
- 28 ottobre 2026: Data di pubblicazione dell'episodio E257 di Silicon Valley 101 con Vitalik Buterin.
- 1 ora 53 minuti: Durata totale dell'episodio dell'intervista.
- Settembre 2026: Data delle dimissioni del ricercatore sulla sicurezza dell'IA Jacob Coxon dai laboratori di IA di frontiera.
- 2023: Anno in cui Vitalik Buterin ha coorganizzato l'esperimento di comunità temporanea Zuzalu in Montenegro.
- 80,000 Hours: Parametro di orientamento professionale che rappresenta il numero approssimativo di ore della vita lavorativa di una persona.
- Centinaia di milioni di USD: Valore stimato dell'ingente donazione inattesa in criptovalute convertita da Vitalik Buterin in capitale filantropico.
6. Cosa ci farebbe cambiare opinione#
- Obblighi di verifiche indipendenti della sicurezza: Adozione standardizzata di valutazioni dei modelli giuridicamente vincolanti, effettuate da soggetti terzi senza scopo di lucro completamente indipendenti dai finanziamenti di capitale di rischio o da legami azionari con i laboratori.
- Parità dei modelli a codice aperto: Modelli commerciali a codice aperto che raggiungono la parità di capacità con i modelli proprietari di fascia più alta, rendendo obsoleti i fossati economici (moat) dei laboratori centralizzati e spostando l'attenzione sugli strumenti difensivi d/acc.
- Riallocazione del capitale filantropico: Principali reti di finanziamento (ad esempio, Coefficient Giving, Survival and Flourishing Fund) che spostano significativamente il capitale dalle attività di pressione politica verso la ricerca verificabile sull'allineamento tecnico o la biosicurezza globale.
- Applicazione normativa della responsabilità dei laboratori: Introduzione di rigorosi quadri di responsabilità giuridica che rendano gli sviluppatori di modelli di IA legalmente responsabili dei cedimenti catastrofici a valle o delle violazioni della sicurezza.
7. Fonti#
E257|Dialogo con Vitalik: il pensiero filosofico alla base della sicurezza dell'IA, come influenza la Silicon Valley l'altruismo efficace?, Condotto da Yiwen e Hongjun con gli ospiti Vitalik Buterin e Afra, Podcast Silicon Valley 101 (28 ottobre 2026)
Guarda
Link alle fonti
- E257|对话Vitalik:AI安全背后的哲学思想,有效利… - 硅谷101 - Apple Podcasts
Guarda e ascolta
- Meme Coin Millions Funded AI Doomsday. Who Audits It? YouTube · EN
- 誰在決定AI的百億資本支出?矽谷哲學家與P(doom)的權力遊戲 YouTube · 中文
- Meme Coin Millions Funded AI Doomsday. Who Audits It? Podcast · EN
- 誰在決定AI的百億資本支出?矽谷哲學家與P(doom)的權力遊戲 Podcast · 中文