Insights Investing
Peruntukan Modal, Tadbir Urus dan Risiko dalam Ekosistem Keselamatan AI: Menganalisis Kerangka Filantropi Vitalik Buterin
Audio siar · Dengar (22 min)
Kandungan
- 1. Evolusi Altruisme Berkesan: Daripada Kesihatan Global kepada Keselamatan AI
- 2. Dinamik Peruntukan Modal: Durian Runtuh Kripto dan Tadbir Urus Filantropi
- 3. Dinamik Makmal dan Struktur Pasaran: OpenAI, Anthropic dan Keselamatan Sumber Terbuka
- 4. Kerangka Ideologi dan Pengurusan Risiko: e/acc berbanding d/acc
- 5. Angka Utama
- 6. Perkara yang Akan Mengubah Pandangan Kami
- 7. Sumber
Artikel ini menganalisis evolusi sejarah gerakan Altruisme Berkesan (EA), penumpuan modal dalam rangkaian pembiayaan keselamatan AI, serta mekanisme tadbir urus yang memacu makmal kecerdasan buatan termaju, berdasarkan secara langsung pandangan yang dikongsikan oleh pengasas bersama Ethereum, Vitalik Buterin, dalam Silicon Valley 101. Kami menyimpulkan bahawa peruntukan modal yang amat tertumpu dan struktur tadbir urus makmal tertutup menghasilkan kerapuhan institusi yang serius, risiko penguasaan kawal selia oleh kepentingan tertentu, serta kemerosotan benteng ekonomi (moat), menjadikan mekanisme pertahanan terdesentralisasi (d/acc) penting untuk daya tahan ekosistem jangka panjang. Bagi pelabur teknologi berorientasikan nilai, pemahaman tentang dinamik struktur ini menyediakan sudut analisis penting untuk mengambil kira risiko ekstrem yang membawa bencana dalam penetapan harga, menilai kecekapan peruntukan modal, dan menaksir ketahanan operasi jangka panjang perusahaan teknologi termaju.
1. Evolusi Altruisme Berkesan: Daripada Kesihatan Global kepada Keselamatan AI#
Gerakan Altruisme Berkesan (EA) telah mengalami transformasi asas dalam paradigma peruntukan modalnya sejak penubuhannya. Pada awalnya berpaksikan kerangka intervensi empirikal yang sangat boleh diukur—seperti penilaian GiveWell terhadap inisiatif kesihatan global yang berkesan dari segi kos, termasuk pembiayaan kelambu oleh Against Malaria Foundation (AMF)—gerakan ini berusaha memaksimumkan pulangan langsung terhadap kesejahteraan manusia bagi setiap dolar yang dibelanjakan. Falsafah "Menjana Pendapatan untuk Menderma" memainkan peranan penting dalam pembentukan modal awal ini, dengan menggalakkan individu berprestasi tinggi mengejar kerjaya berpendapatan lumayan dalam pasaran kewangan Wall Street dan institusi peruntukan modal tradisional, lalu menyalurkan pendapatan kewangan persendirian ke dalam saluran pemberian geran filantropi khusus. Dari semasa ke semasa, gerakan ini melalui empat fasa sejarah yang berbeza:
- Kesihatan dan Pembangunan Global: Mengutamakan intervensi berasaskan bukti yang sangat boleh dikuantifikasi untuk mengurangkan kemiskinan dan penyakit global.
- Orientasi Jangka Panjang: Memperluas kadar diskaun etika untuk menumpukan pada mekanisme perlindungan bagi generasi akan datang dan mengurangkan risiko bencana global.
- Krisis Kepercayaan Institusi: Mengalami kejutan kredibiliti yang serius selepas kejatuhan Sam Bankman-Fried (SBF) dan FTX, penyokong kewangan utama institusi EA, yang mendedahkan kelemahan struktur tadbir urus merentas saluran pembiayaan ekosistem.
- Tumpuan Keselamatan AI Termaju: Memusatkan semula modal dan sumber manusia pada pengurangan risiko kewujudan ($P(\text{doom})$) serta penyelidikan teknikal penjajaran AI.
Tokoh intelektual utama mengarahkan haluan falsafah dan struktur ini. William MacAskill, bekas Profesor Madya Falsafah di Oxford University, mengasaskan bersama Giving What We Can dan 80,000 Hours, lalu muncul sebagai penyokong utama orientasi jangka panjang. Toby Ord, ahli falsafah Australia dan pengasas bersama Giving What We Can, memajukan kerangka awal EA melalui kajian teliti tentang kemiskinan global dan ancaman kewujudan terhadap potensi jangka panjang manusia. Pada masa yang sama, Eliezer Yudkowsky, pengasas bersama Machine Intelligence Research Institute (MIRI) dan pemikir asas komuniti web rasionalis LessWrong, mengalihkan tumpuan analisis komuniti kepada bias kognitif, pembuatan keputusan rasional, serta risiko bencana akibat kegagalan penjajaran AI.
Peruntukan modal insan dalam ekosistem ini dilaksanakan terutamanya melalui 80,000 Hours, sebuah institusi nasihat kerjaya bukan untung yang diasaskan bersama oleh MacAskill dan Benjamin Todd. Dinamakan berdasarkan anggaran jumlah jam bekerja sepanjang kehidupan profesional seseorang, 80,000 Hours secara sistematik membimbing bakat teknologi dan matematik berkemahiran tinggi untuk beralih daripada kewangan korporat tradisional kepada penyelidikan penjajaran AI, kejuruteraan keselamatan dan dasar teknologi, sekali gus mewujudkan saluran intelektual yang menghubungkan bakat Silicon Valley dengan inisiatif keselamatan bukan untung.
2. Dinamik Peruntukan Modal: Durian Runtuh Kripto dan Tadbir Urus Filantropi#
Kemasukan modal bukan tradisional mengubah secara ketara struktur insentif dan skala operasi organisasi keselamatan AI. Pengasas bersama Ethereum, Vitalik Buterin, menggambarkan perubahan besar apabila beliau secara tidak dijangka menerima agihan mata wang kripto meme yang amat besar (token Dogecoin dan Shiba Inu). Selepas menukar aset yang tidak menentu ini, Buterin menjana ratusan juta dolar dalam bentuk modal filantropi cair.
Penggunaan sumber durian runtuh ini menyasarkan pelbagai bidang: * Future of Life Institute (FLI): Sebuah organisasi bukan untung terkemuka yang menumpukan pada pengurangan risiko teknologi maju, diasaskan bersama oleh pengasas bersama Skype, Jaan Tallinn, dan menerima modal yang besar daripada Buterin. * CryptoRelief: Inisiatif yang dilancarkan oleh pengasas bersama Polygon, Sandeep Nailwal, semasa krisis COVID-19 di India, yang dibiayai oleh aset kripto Buterin. * Balvi Fund: Wadah khusus yang diterajui oleh Buterin dan menyokong PopVax, sebuah syarikat bioteknologi India yang memajukan platform vaksin terbuka dan imunoterapi kanser.
Walau bagaimanapun, Buterin menyatakan ketegangan strategik berhubung sokongan kewangannya kepada FLI. Apabila FLI mengalihkan tumpuan institusinya daripada penyelidikan asas risiko teknologi kepada advokasi dasar AI yang aktif dan campur tangan kawal selia kerajaan, Buterin menilai semula komitmen pembiayaannya. Penilaian pulangan marginal langsung secara semula jadi menjadi lebih sukar apabila beralih daripada intervensi kesejahteraan manusia yang boleh disahkan (contohnya, pembangunan vaksin atau pencegahan penyakit) kepada pelobian dasar dan pengaruh politik.
Perubahan ini mencerminkan persoalan yang lebih luas tentang penumpuan modal dalam landskap filantropi keselamatan AI. Didominasi oleh rangkaian penderma utama—seperti rangkaian Good Ventures / Coefficient Giving (dahulunya Open Philanthropy) milik Dustin Moskovitz (pengasas bersama Facebook dan Asana) dan Cari Tuna, bersama Survival and Flourishing Fund (SFF) milik Jaan Tallinn—ekosistem ini menunjukkan penumpuan modal yang ekstrem. Khususnya, kedudukan berganda Tallinn sebagai pengasas bersama FLI dan penyokong utama SFF menyerlahkan betapa tertumpunya rangkaian penderma yang mendasarinya.
Dari perspektif pelabur nilai, penumpuan ini mewujudkan penyusutan pulangan marginal atas modal yang serius—kemerosotan ROIC filantropi. Apabila modal beralih daripada penjajaran teknikal kepada pelobian dasar dalam bidang yang sudah tepu, utiliti marginal setiap tambahan dolar merosot mendadak, sementara pendedahan kepada kebuntuan politik meningkat. Untuk meneroka struktur organisasi alternatif, Buterin terlibat dalam eksperimen tadbir urus dunia sebenar, seperti menganjurkan bersama Zuzalu di Montenegro pada 2023. Zuzalu berfungsi sebagai eksperimen komuniti sementara untuk menguji penyelarasan terdesentralisasi, tadbir urus sukarela dan peruntukan sumber yang pantas di luar institusi korporat atau kerajaan berpusat, yang secara langsung membentuk pandangan Buterin tentang kecekapan peruntukan modal.
3. Dinamik Makmal dan Struktur Pasaran: OpenAI, Anthropic dan Keselamatan Sumber Terbuka#
Barisan hadapan komersial kecerdasan buatan memperlihatkan perbezaan struktur yang ketara dalam tadbir urus korporat, komitmen keselamatan dan benteng ekonomi (moat) persaingan:
- OpenAI: Beralih daripada asal penubuhannya sebagai institusi penyelidikan terbuka bukan untung kepada perusahaan yang dipacu secara komersial, dengan mengimbangi kepantasan komersial dengan mandat asal keselamatan dan keterbukaannya.
- Anthropic: Ditubuhkan dengan tumpuan struktur pada keselamatan dan kebolehtafsiran AI. Khususnya, pengasas bersama Anthropic, Chris Olah, mengetuai penyelidikan perintis dalam kebolehtafsiran mekanistik, dengan berusaha merungkai mekanisme dalaman dan representasi neural model yang kompleks.
Persekitaran operasi ini menghadapi ketegangan berterusan antara persaingan pasaran, pelaksanaan komersial yang pantas, penilaian keselamatan dan penyebaran model sumber terbuka. Persaingan komersial agresif antara makmal termaju secara sistematik menjejaskan komitmen keselamatan sukarela. Ketegangan struktur ini terserlah pada September 2026, apabila penyelidik keselamatan Jacob Coxon—yang sebelum ini menjalankan penyelidikan di OpenAI dan Anthropic—meletakkan jawatan daripada penyelidikan makmal termaju, sambil mengeluarkan amaran awam tentang dinamik perlumbaan dan tekanan persaingan yang mempercepat peningkatan risiko pelaksanaan.
Pada masa yang sama, sistem pengawasan pihak ketiga telah menghadapi penelitian yang mendalam. Pengulas rangkaian Kevin Bass secara terbuka menonjolkan rangkaian kewangan dan hubungan peribadi yang menghubungkan makmal komersial seperti Anthropic, penilai keselamatan pihak ketiga dan institusi penderma utama. Badan penilaian bukan untung seperti METR (Penilaian Model & Penyelidikan Ancaman) beroperasi di pusat potensi risiko penguasaan kawal selia oleh kepentingan tertentu dan konflik kepentingan. Apabila saluran penilaian, aliran pembiayaan dan cadangan kawal selia dikawal oleh rangkaian penderma serta makmal proprietari yang saling berkait rapat, risiko bias institusi meningkat dengan ketara.
Bagi pelabur teknologi berorientasikan nilai, pergantungan pada tadbir urus makmal tertutup dan pelobian di peringkat kerajaan mewujudkan "kerapuhan terhadap kejutan kawal selia" dan "kemerosotan benteng ekonomi (moat)" yang serius. Benteng ekonomi (moat) yang dibina atas penguasaan kawal selia oleh kepentingan tertentu atau kerahsiaan proprietari adalah rentan; jika model sumber terbuka mencapai kesetaraan keupayaan atau mekanisme pertahanan terdesentralisasi mendapat sambutan, benteng ekonomi (moat) komersial makmal tertutup akan terhakis dengan pantas akibat daya persaingan pasaran.
4. Kerangka Ideologi dan Pengurusan Risiko: e/acc berbanding d/acc#
Perdebatan mengenai pelaksanaan teknologi telah membentuk kelompok ideologi yang bertentangan: * Pemecutan Berkesan (e/acc): Menyokong pembangunan teknologi tanpa sekatan, dengan mempercayai mekanisme pasaran dan kitaran inovasi pantas untuk menangani risiko hiliran. * Gerakan Jeda/Perlahan (contohnya, PauseAI): Gerakan akar umbi yang menyokong larangan antarabangsa atau penghentian pembangunan AI termaju sehingga keselamatan dan pengawasan demokratik dapat dipastikan.
Vitalik Buterin menawarkan kerangka alternatif yang dinamakan d/acc (pemecutan defensif, atau pemecutan yang mengutamakan pertahanan). Daripada bergantung pada sekatan kerajaan dari atas ke bawah atau pemecutan tanpa kawalan, d/acc mengutamakan pembangunan pantas teknologi pertahanan terdesentralisasi yang direka untuk melindungi masyarakat daripada kelemahan yang boleh membawa bencana tanpa memusatkan kuasa.
Untuk menggambarkan d/acc, Buterin merujuk kepada kesihatan awam dan pertahanan terhadap pandemik: daripada bergantung secara eksklusif pada paksaan dari atas ke bawah atau sekatan pergerakan berpusat, pertahanan biologi yang berkesan melengkapkan individu dan komuniti dengan alat diagnostik sumber terbuka, sistem penapisan udara dan platform vaksin terdesentralisasi (seperti PopVax). Apabila diterapkan pada kecerdasan buatan, d/acc menyokong perkakasan pertahanan terdesentralisasi, kebolehauditan sumber terbuka, serta semak dan imbang institusi. Daripada meletakkan kepercayaan tanpa syarat pada oligopoli tertutup makmal korporat, d/acc bergantung pada pelbagai sistem tidak sempurna yang bersaing dan saling mengawasi untuk mengelakkan titik tunggal kegagalan institusi.
Keperluan penting kerangka d/acc ialah kerendahan hati epistemik—mengakui batas asas perkara yang tidak kita ketahui apabila meramalkan sistem teknologi kompleks yang mempunyai sifat baharu yang muncul daripada interaksi komponennya. Kerendahan hati epistemik berfungsi sebagai disiplin utama pengurusan risiko, bagi mengelakkan pergantungan berlebihan pada ramalan teknologi dogmatik atau perancangan berpusat. Bagi pelabur jangka panjang, analisis struktur tadbir urus ini menyediakan kerangka jelas untuk menilai ketahanan korporat. Syarikat yang bergantung pada struktur korporat tertutup dan penguasaan kawal selia oleh kepentingan tertentu menghadapi risiko kejutan perundangan yang besar, tentangan awam dan kegagalan operasi pada satu titik. Sebaliknya, entiti yang membina keupayaan pertahanan kukuh, seni bina terbuka dan tadbir urus berbilang sistem yang berdaya tahan menunjukkan ketahanan operasi yang lebih tinggi di bawah tekanan. Pembaca dijemput untuk meneroka lebih banyak penyelidikan syarikat sumber terbuka di laman DeepValues Research atau menyemak nilai intrinsik sesuatu saham dalam aplikasi DeepValues.
5. Angka Utama#
- 28 Oktober 2026: Tarikh keluaran episod E257 Silicon Valley 101 yang menampilkan Vitalik Buterin.
- 1 jam 53 minit: Jumlah tempoh episod temu bual.
- September 2026: Tarikh penyelidik keselamatan AI Jacob Coxon meletakkan jawatan daripada makmal AI termaju.
- 2023: Tahun Vitalik Buterin menganjurkan bersama eksperimen komuniti sementara Zuzalu di Montenegro.
- 80,000 Hours: Metrik nasihat kerjaya yang mewakili anggaran jumlah jam sepanjang kehidupan bekerja profesional seseorang.
- Ratusan juta USD: Anggaran nilai durian runtuh sumbangan kripto yang ditukar oleh Vitalik Buterin menjadi modal filantropi.
6. Perkara yang Akan Mengubah Pandangan Kami#
- Mandat Audit Keselamatan Bebas: Penerimaan piawai bagi penilaian model pihak ketiga yang mengikat di sisi undang-undang, dilaksanakan oleh entiti bukan untung yang bebas sepenuhnya daripada hubungan pembiayaan modal teroka atau pegangan ekuiti makmal.
- Kesetaraan Sumber Terbuka: Model sumber terbuka komersial mencapai kesetaraan keupayaan dengan model proprietari terunggul, menjadikan benteng ekonomi (moat) makmal berpusat lapuk dan mengalihkan tumpuan kepada perkakasan pertahanan d/acc.
- Peruntukan Semula Modal Filantropi: Rangkaian pembiayaan utama (contohnya, Coefficient Giving, Survival and Flourishing Fund) mengalihkan modal secara ketara daripada pelobian dasar kembali kepada penyelidikan penjajaran teknikal yang boleh disahkan atau biosekuriti global.
- Penguatkuasaan Kawal Selia terhadap Liabiliti Makmal: Penggubalan kerangka liabiliti undang-undang yang ketat, yang menjadikan pembangun model AI bertanggungjawab di sisi undang-undang atas kegagalan hiliran yang membawa bencana atau pelanggaran keselamatan.
7. Sumber#
E257|Dialog bersama Vitalik: Pemikiran falsafah di sebalik keselamatan AI, bagaimanakah altruisme berkesan mempengaruhi Silicon Valley?, Dikendalikan oleh Yiwen dan Hongjun bersama tetamu Vitalik Buterin dan Afra, Podcast Silicon Valley 101 (28 Oktober 2026)
Tonton
Pautan sumber
- E257|对话Vitalik:AI安全背后的哲学思想,有效利… - 硅谷101 - Apple Podcasts
Tonton & dengar
- Meme Coin Millions Funded AI Doomsday. Who Audits It? YouTube · EN
- 誰在決定AI的百億資本支出?矽谷哲學家與P(doom)的權力遊戲 YouTube · 中文
- Meme Coin Millions Funded AI Doomsday. Who Audits It? Audio siar · EN
- 誰在決定AI的百億資本支出?矽谷哲學家與P(doom)的權力遊戲 Audio siar · 中文