Insights Investing

Allocation du capital, gouvernance et risque dans l'écosystème de la sécurité de l'IA : analyse du cadre philanthropique de Vitalik Buterin

Podcast · Écouter (22 min)

Meme Coin Millions Funded AI Doomsday. Who Audits It?

Sommaire
  1. 1. L'évolution de l'altruisme efficace : de la santé mondiale à la sécurité de l'IA
  2. 2. Dynamiques d'allocation du capital : gains exceptionnels en cryptomonnaies et gouvernance philanthropique
  3. 3. Dynamiques des laboratoires et structure du marché : OpenAI, Anthropic et sécurité à code source ouvert
  4. 4. Cadres idéologiques et gestion des risques : e/acc contre d/acc
  5. 5. Chiffres clés
  6. 6. Ce qui nous ferait changer d'avis
  7. 7. Sources

Cet article analyse l'évolution historique du mouvement de l'altruisme efficace, la concentration du capital au sein des réseaux de financement de la sécurité de l'IA et les mécanismes de gouvernance des laboratoires d'intelligence artificielle de pointe, en s'appuyant directement sur les réflexions du cofondateur d'Ethereum, Vitalik Buterin, partagées dans Silicon Valley 101. Nous concluons que l'allocation hyperconcentrée du capital et les structures de gouvernance fermées des laboratoires engendrent une forte fragilité institutionnelle, des risques de capture réglementaire et une érosion de l'avantage concurrentiel durable (moat), rendant les mécanismes de défense décentralisés (d/acc) essentiels à la résilience à long terme de l'écosystème. Pour les investisseurs technologiques axés sur la valeur, comprendre ces dynamiques structurelles constitue une grille d'analyse essentielle pour intégrer les risques extrêmes catastrophiques dans les valorisations, évaluer l'efficacité de l'allocation du capital et apprécier la pérennité opérationnelle à long terme des entreprises technologiques de pointe.

1. L'évolution de l'altruisme efficace : de la santé mondiale à la sécurité de l'IA

Le mouvement de l'altruisme efficace a connu une transformation fondamentale de son paradigme d'allocation du capital depuis sa création. Initialement ancré dans des cadres d'intervention empiriques et hautement mesurables — tels que les évaluations par GiveWell d'initiatives de santé mondiale présentant un bon rapport coût-efficacité, comme le financement de moustiquaires par Against Malaria Foundation (AMF) —, le mouvement cherchait à maximiser le bénéfice direct pour le bien-être humain par dollar dépensé. La philosophie « Gagner pour donner » a joué un rôle crucial dans cette formation initiale du capital : elle encourageait les personnes très performantes à poursuivre des carrières lucratives sur les marchés financiers de Wall Street et auprès des acteurs traditionnels de l'allocation du capital, afin de convertir leurs revenus financiers privés en circuits dédiés à l'octroi de subventions philanthropiques. Au fil du temps, le mouvement a traversé quatre phases historiques distinctes :

  1. Santé mondiale et développement : privilégier des interventions fondées sur des données probantes et hautement quantifiables pour réduire la pauvreté et les maladies à l'échelle mondiale.
  2. Long-termisme : élargir la réflexion sur le taux d'actualisation éthique pour se concentrer sur les mécanismes de protection des générations futures et l'atténuation des risques catastrophiques mondiaux.
  3. La crise de confiance institutionnelle : subir un grave choc de crédibilité après l'effondrement de Sam Bankman-Fried (SBF) et de FTX, important soutien financier des institutions de l'altruisme efficace, qui a révélé des vulnérabilités structurelles de gouvernance dans les circuits de financement de l'écosystème.
  4. Priorité à la sécurité de l'IA de pointe : recentrer les ressources financières et humaines sur l'atténuation des risques existentiels ($P(\text{doom})$) et la recherche technique sur l'alignement de l'IA.

Des figures intellectuelles majeures ont orienté cette trajectoire philosophique et structurelle. William MacAskill, ancien professeur associé de philosophie à l'université d'Oxford, a cofondé Giving What We Can et 80,000 Hours, s'imposant comme un défenseur central du long-termisme. Toby Ord, philosophe australien et cofondateur de Giving What We Can, a fait progresser les premiers cadres de l'altruisme efficace grâce à une étude rigoureuse de la pauvreté mondiale et des menaces existentielles pesant sur le potentiel à long terme de l'humanité. Parallèlement, Eliezer Yudkowsky, cofondateur du Machine Intelligence Research Institute (MIRI) et penseur fondateur de la communauté rationaliste en ligne LessWrong, a réorienté l'analyse de cette communauté vers les biais cognitifs, la prise de décision rationnelle et les risques catastrophiques liés à l'alignement de l'IA.

L'allocation du capital humain au sein de cet écosystème a été mise en œuvre principalement par 80,000 Hours, une organisation à but non lucratif de conseil en carrière cofondée par MacAskill et Benjamin Todd. Nommée d'après le nombre approximatif d'heures de travail au cours d'une vie professionnelle, 80,000 Hours a systématiquement orienté les talents hautement qualifiés en technologie et en mathématiques hors de la finance d'entreprise traditionnelle, vers la recherche sur l'alignement de l'IA, l'ingénierie de la sécurité et les politiques technologiques, créant un vivier intellectuel reliant les talents de la Silicon Valley aux initiatives de sécurité à but non lucratif.

2. Dynamiques d'allocation du capital : gains exceptionnels en cryptomonnaies et gouvernance philanthropique#

L'afflux de capitaux non traditionnels a profondément reconfiguré les structures d'incitation et l'échelle des activités des organisations de sécurité de l'IA. Le cofondateur d'Ethereum, Vitalik Buterin, a décrit un tournant majeur lorsqu'il a reçu de manière inattendue une distribution massive de cryptomonnaies inspirées de mèmes (jetons Dogecoin et Shiba Inu). En convertissant ces actifs volatils, Buterin a dégagé des centaines de millions de dollars de capitaux philanthropiques liquides.

Le déploiement de ces ressources exceptionnelles a ciblé divers domaines : * Future of Life Institute (FLI) : une importante organisation à but non lucratif consacrée à l'atténuation des risques liés aux technologies avancées, cofondée par le cofondateur de Skype, Jaan Tallinn, qui a reçu des capitaux substantiels de Buterin. * CryptoRelief : une initiative lancée par le cofondateur de Polygon, Sandeep Nailwal, pendant la crise de la COVID-19 en Inde, financée par les cryptoactifs de Buterin. * Balvi Fund : un véhicule spécialisé dirigé par Buterin qui a soutenu PopVax, une entreprise indienne de biotechnologie développant des plateformes vaccinales ouvertes et des immunothérapies contre le cancer.

Toutefois, Buterin a exprimé des réserves stratégiques concernant son soutien financier au FLI. Lorsque le FLI a réorienté ses priorités institutionnelles de la recherche fondamentale sur les risques technologiques vers la promotion active de politiques relatives à l'IA et l'intervention réglementaire de l'État, Buterin a réévalué ses engagements de financement. L'évaluation des rendements marginaux directs devient intrinsèquement plus difficile lorsque l'on passe d'interventions vérifiables en faveur du bien-être humain (par exemple, le développement de vaccins ou la prévention des maladies) au lobbying sur les politiques publiques et à l'influence politique.

Cette évolution fait écho à des interrogations plus larges concernant la concentration du capital dans le paysage philanthropique de la sécurité de l'IA. Dominé par de grands réseaux de donateurs — tels que le réseau Good Ventures / Coefficient Giving (anciennement Open Philanthropy) de Dustin Moskovitz (cofondateur de Facebook et d'Asana) et de Cari Tuna, ainsi que le Survival and Flourishing Fund (SFF) de Jaan Tallinn —, l'écosystème présente une concentration extrême du capital. La double position de Tallinn, à la fois cofondateur du FLI et soutien majeur du SFF, souligne notamment à quel point le réseau sous-jacent de donateurs est concentré.

Du point de vue d'un investisseur axé sur la valeur, cette concentration entraîne une forte diminution des rendements marginaux du capital — une érosion du ROIC philanthropique. Lorsque le capital se déplace de l'alignement technique vers le lobbying sur les politiques publiques dans des domaines saturés, l'utilité marginale des dollars supplémentaires chute brutalement, tout en augmentant l'exposition aux blocages politiques. Pour explorer d'autres structures organisationnelles, Buterin a participé à des expériences de gouvernance en conditions réelles, notamment en coorganisant Zuzalu au Monténégro en 2023. Zuzalu a servi d'expérience communautaire éphémère pour tester la coordination décentralisée, la gouvernance volontaire et l'allocation rapide des ressources en dehors des institutions centralisées, qu'elles soient privées ou étatiques, nourrissant directement la réflexion de Buterin sur l'efficacité de l'allocation du capital.

3. Dynamiques des laboratoires et structure du marché : OpenAI, Anthropic et sécurité à code source ouvert

L'avant-garde commerciale de l'intelligence artificielle présente de forts contrastes structurels en matière de gouvernance d'entreprise, d'engagements de sécurité et d'avantages concurrentiels durables (moat) :

  • OpenAI : est passée de ses origines d'institution de recherche ouverte à but non lucratif à une entreprise orientée vers le marché, arbitrant entre rapidité commerciale et missions initiales de sécurité et d'ouverture.
  • Anthropic : a été fondée avec une priorité structurelle accordée à la sécurité et à l'interprétabilité de l'IA. Son cofondateur Chris Olah a notamment dirigé des recherches pionnières en interprétabilité mécaniste, visant à décrypter les mécanismes internes et les représentations neuronales de modèles complexes.

Cet environnement opérationnel connaît des tensions persistantes entre concurrence commerciale, déploiement commercial rapide, évaluations de sécurité et diffusion de modèles à code source ouvert. La concurrence commerciale agressive entre les laboratoires de pointe affaiblit systématiquement les engagements volontaires de sécurité. Cette tension structurelle a été mise en évidence en septembre 2026, lorsque le chercheur en sécurité Jacob Coxon — qui avait auparavant mené des recherches chez OpenAI et Anthropic — a quitté la recherche dans les laboratoires de pointe, lançant un avertissement public sur les dynamiques de course et les pressions concurrentielles qui accélèrent les risques liés au déploiement.

Parallèlement, le dispositif de surveillance par des tiers a fait l'objet d'un examen approfondi. Le commentateur en ligne Kevin Bass a publiquement mis en lumière les réseaux financiers et interpersonnels reliant des laboratoires commerciaux comme Anthropic, des évaluateurs tiers de la sécurité et de grandes institutions donatrices. Des organismes d'évaluation à but non lucratif comme METR (évaluation des modèles et recherche sur les menaces) se trouvent au cœur de risques potentiels de capture réglementaire et de conflits d'intérêts. Lorsque les circuits d'évaluation, les flux de financement et les propositions réglementaires sont contrôlés par un réseau étroitement interconnecté de donateurs et de laboratoires développant des modèles propriétaires, le risque de biais institutionnel augmente considérablement.

Pour les investisseurs technologiques axés sur la valeur, la dépendance à la gouvernance de laboratoires fermés et au lobbying auprès de l'État crée une forte « fragilité face aux chocs réglementaires » et une « érosion de l'avantage concurrentiel durable (moat) ». Les avantages concurrentiels durables (moat) fondés sur la capture réglementaire ou le secret propriétaire sont vulnérables ; si les modèles à code source ouvert atteignent des capacités équivalentes ou si les mécanismes de défense décentralisés gagnent du terrain, les avantages concurrentiels durables (moat) commerciaux des laboratoires fermés s'éroderont rapidement sous l'effet de la concurrence.

4. Cadres idéologiques et gestion des risques : e/acc contre d/acc

Le débat entourant le déploiement des technologies s'est structuré autour de camps idéologiques opposés : * Accélérationnisme efficace (e/acc) : prône un développement technologique sans entraves, en faisant confiance aux mécanismes de marché et aux cycles d'innovation rapides pour résoudre les risques en aval. * Mouvement pour une pause ou un ralentissement (par exemple, PauseAI) : un mouvement citoyen qui préconise des interdictions internationales ou des suspensions du développement de l'IA de pointe jusqu'à ce que la sécurité et le contrôle démocratique puissent être assurés.

Vitalik Buterin propose un cadre alternatif appelé d/acc (accélérationnisme défensif, ou accélérationnisme donnant la priorité à la défense). Plutôt que de s'appuyer sur des restrictions étatiques imposées d'en haut ou sur une accélération incontrôlée, d/acc privilégie le développement rapide de technologies défensives décentralisées, conçues pour protéger la société contre les vulnérabilités catastrophiques sans concentrer le pouvoir.

Pour illustrer d/acc, Buterin évoque la santé publique et la défense contre les pandémies : au lieu de s'appuyer exclusivement sur la coercition imposée d'en haut ou sur des confinements centralisés, une biodéfense efficace fournit aux individus et aux communautés des outils de diagnostic à code source ouvert, des systèmes de filtration de l'air et des plateformes vaccinales décentralisées (comme PopVax). Appliqué à l'intelligence artificielle, d/acc préconise des outils défensifs décentralisés, une auditabilité grâce à l'ouverture du code source et des mécanismes institutionnels de contrôle et de contre-pouvoir. Plutôt que d'accorder une confiance inconditionnelle à un oligopole fermé de laboratoires privés, d/acc s'appuie sur plusieurs systèmes concurrents et imparfaits qui se surveillent mutuellement pour prévenir les points uniques de défaillance institutionnelle.

Une exigence essentielle du cadre d/acc est l'humilité épistémique — reconnaître les limites fondamentales de nos connaissances lorsque nous prévoyons l'évolution de systèmes technologiques complexes et émergents. L'humilité épistémique constitue une discipline centrale de gestion des risques, évitant une dépendance excessive aux prévisions technologiques dogmatiques ou à la planification centralisée. Pour les investisseurs à long terme, l'analyse de ces structures de gouvernance fournit un cadre clair pour évaluer la pérennité des entreprises. Les entreprises qui s'appuient sur des structures fermées et sur la capture réglementaire sont confrontées à des risques importants de chocs législatifs, de réactions hostiles du public et de défaillances opérationnelles concentrées sur un point unique. À l'inverse, les entités qui développent de solides capacités défensives, des architectures ouvertes et une gouvernance résiliente reposant sur plusieurs systèmes démontrent une plus grande pérennité opérationnelle en situation de crise. Les lecteurs sont invités à consulter davantage d'analyses d'entreprises en accès libre sur le site de DeepValues Research ou à vérifier la valeur intrinsèque d'une action dans l'application DeepValues.

5. Chiffres clés

  • 28 octobre 2026 : date de publication de l'épisode E257 de Silicon Valley 101 avec Vitalik Buterin.
  • 1 heure 53 minutes : durée totale de l'épisode d'entretien.
  • Septembre 2026 : date du départ du chercheur en sécurité de l'IA Jacob Coxon des laboratoires d'IA de pointe.
  • 2023 : année où Vitalik Buterin a coorganisé l'expérience communautaire temporaire Zuzalu au Monténégro.
  • 80,000 Hours : indicateur de conseil en carrière représentant le nombre approximatif d'heures de travail au cours d'une vie professionnelle.
  • Des centaines de millions de dollars américains : valeur estimée des dons exceptionnels en cryptomonnaies convertis par Vitalik Buterin en capitaux philanthropiques.

6. Ce qui nous ferait changer d'avis#

  1. Obligations d'audits de sécurité indépendants : adoption normalisée d'évaluations de modèles juridiquement contraignantes, réalisées par des organismes tiers à but non lucratif totalement indépendants des financements en capital-risque et de toute participation au capital des laboratoires.
  2. Parité des modèles à code source ouvert : des modèles commerciaux à code source ouvert atteignant des capacités équivalentes à celles des meilleurs modèles propriétaires, rendant obsolètes les avantages concurrentiels durables (moat) des laboratoires centralisés et réorientant les priorités vers les outils défensifs d/acc.
  3. Réallocation du capital philanthropique : de grands réseaux de financement (par exemple, Coefficient Giving, Survival and Flourishing Fund) réorientant sensiblement les capitaux du lobbying sur les politiques publiques vers la recherche technique vérifiable sur l'alignement ou la biosécurité mondiale.
  4. Mise en œuvre réglementaire de la responsabilité des laboratoires : adoption de cadres stricts de responsabilité juridique rendant les développeurs de modèles d'IA légalement responsables des défaillances catastrophiques ou des manquements à la sécurité en aval.

7. Sources#

E257|Entretien avec Vitalik : les idées philosophiques derrière la sécurité de l'IA, comment l'altruisme efficace influence-t-il la Silicon Valley ?, Présenté par Yiwen et Hongjun avec les invités Vitalik Buterin et Afra, balado Silicon Valley 101 (28 octobre 2026)

Regarder

Liens vers les sources

  • E257|对话Vitalik:AI安全背后的哲学思想,有效利… - 硅谷101 - Apple Podcasts

Regarder et écouter

Texte de recherche sous licence CC BY 4.0, à citer ainsi : DeepValues Research, Allocation du capital, gouvernance et risque dans l'écosystème de la sécurité de l'IA : analyse du cadre philanthropique de Vitalik Buterin, https://research.deepvalues.ai/insights/2026-10-28-philosophy-of-ai-safety-and-effective-altruism-fr/

Lettre hebdo gratuite

Margin of Safety Weekly

Chaque samedi : la température du marché, les achats et ventes des grands investisseurs (13F), les nouvelles analyses de la semaine, vidéos et podcasts — gratuit, sans compte. La lettre est rédigée en anglais.

Send me the DeepValues Margin of Safety Weekly, one email every Saturday. I can unsubscribe at any time. Information only, not investment advice. Confidentialité

Aller plus loin

Lancez cette analyse sur n'importe quelle action en 2 minutes

Deep Value Intelligence, l'analyste IA multi-agents à l'origine de ce rapport, rédige à la demande le même rapport pour n'importe quelle société cotée.

Ouvrir Deep Value Intelligence

Suivez plus de 300 actions dans l'app DeepValues

Positions, valeur intrinsèque et derniers rapports, sur votre téléphone.

Développeurs : positions et rapports via l'API

Les fondamentaux, valeurs intrinsèques, positions et liens de rapports derrière ces pages, en JSON.

Docs de l'API

Discuter