Insights AI

Strategi Infrastruktur AI Amazon Senilai $220 Miliar: Chip Khusus, Ekonomi Pusat Data, dan Skala AI Perusahaan

Podcast · Dengarkan (20 mnt)

$220B AI Bet: How AWS Custom Chips Cut Costs 40%

Daftar isi
  1. 1. Dilema Belanja Modal: Memperbesar Infrastruktur di Tengah Permintaan yang Tak Terpuaskan
  2. 2. Mekanisme Ekonomi Pusat Data dan Gesekan pada Jaringan Listrik Publik
  3. 3. Polarisasi Permintaan AI dan Peran Silikon Khusus
  4. 4. Desain Organisasi di Era Berbasis Agen dan Realitas Keamanan Siber
  5. 5. Alokasi Modal, Aliansi Strategis, dan Perombakan Produk Inti
  6. Angka-Angka Utama
  7. Hal-Hal yang Akan Mengubah Gambaran Ini
  8. Sumber yang dikutip

Amazon tengah menjalani siklus belanja modal sebesar $220 miliar yang belum pernah terjadi sebelumnya pada 2026 untuk memperluas infrastruktur kecerdasan buatan dan komputasi awan globalnya. Didorong oleh permintaan tanpa henti yang membuat kapasitas komputasi telah terjual habis hingga 2026, sebagian besar terjual habis untuk 2027, dan sebagian besar sudah terikat komitmen hingga 2028, perusahaan menyeimbangkan investasi keuangan jangka pendek yang masif dengan monetisasi infrastruktur jangka panjang. Untuk membuka jalan bagi adopsi AI perusahaan secara luas pada beban kerja produksi inti—yang saat ini terkendala biaya inferensi tinggi—Amazon menerapkan silikon khusus, termasuk akselerator Trainium dan cip unit pemrosesan pusat [CPU] Graviton yang dikembangkan oleh Annapurna Labs. Dipadukan dengan pergeseran mendasar menuju alur kerja rekayasa perangkat lunak berbasis agen yang sangat ramping, strategi alokasi modal ini bertujuan menurunkan biaya komputasi sebesar satu orde magnitudo dan mengamankan kepemimpinan fundamental di era AI yang sedang berkembang.

1. Dilema Belanja Modal: Memperbesar Infrastruktur di Tengah Permintaan yang Tak Terpuaskan#

Besarnya skala permintaan kecerdasan buatan perusahaan saat ini telah mendorong pembangunan infrastruktur awan ke wilayah yang belum pernah dijelajahi. Amazon memproyeksikan total belanja modal sekitar $220 miliar untuk 2026—setara dengan laju penempatan modal luar biasa sekitar $600 juta per hari. Meskipun ada komitmen modal ini, kapasitas komputasi tetap sangat terbatas di seluruh ekosistem awan. Kapasitas Amazon Web Services [AWS] telah sepenuhnya terjual habis hingga 2026, sebagian besar terjual habis untuk 2027, dan memiliki alokasi besar yang sudah terikat komitmen hingga 2028. Walaupun pasar keuangan sesekali menunjukkan skeptisisme terhadap besarnya skala pendanaan yang diperlukan untuk membiayai ekspansi ini, infrastruktur komputasi perusahaan telah menjadi utilitas fundamental bagi perdagangan, perbankan, layanan kesehatan, dan operasi perangkat lunak global.

Ekspansi pesat ini menciptakan kompromi operasional dan keuangan sementara yang sangat menyerupai ekspansi jaringan fisik Amazon selama pandemi. Antara 2020 dan 2022, Amazon menggandakan cakupan jaringan pemenuhan pesanannya—jaringan fisik yang dibangun selama 25 tahun sebelumnya—hanya dalam 18 bulan. Secara bersamaan, perusahaan membangun jaringan transportasi tahap akhir yang skalanya sebanding dengan United Parcel Service [UPS] dalam 20 bulan.

Ketika infrastruktur fisik atau digital dibangun dengan kecepatan sedemikian ekstrem, inefisiensi operasional tidak terelakkan. Di divisi ritel, peningkatan skala yang pesat pada awalnya menimbulkan tekanan berat pada biaya pelayanan. Alih-alih mengorbankan pengalaman pelanggan atau menurunkan standar operasional yang menjadi bagian dari budaya perusahaan, Amazon memanfaatkan metrik data internal dan mekanisme peninjauan eksekutif untuk mengidentifikasi hambatan struktural. Hal ini menghasilkan perancangan ulang menyeluruh atas arsitektur infrastruktur logistiknya, mengubah jaringan pemenuhan pesanan nasional yang datar menjadi model berbasis wilayah. Regionalisasi menempatkan persediaan lebih dekat dengan konsumen akhir, sekaligus memperpendek jarak transportasi, mengurangi biaya operasional pelayanan, dan mempercepat pengiriman.

Evolusi arsitektur serupa sedang berlangsung di seluruh infrastruktur digital. Direktur utama Amazon, Andy Jassy, menggambarkan pembangunan pusat data saat ini sebagai kebutuhan industri modern, dengan membandingkannya terhadap proyek infrastruktur federal pada masa lalu. "Belum pernah ada hal seperti ini di dunia dan di negara ini sejak mungkin ketika kita membangun jalan raya dan jembatan pada 1950-an," ujar Jassy. Melewatkan atau menunda siklus modal ini menimbulkan risiko strategis yang besar; kegagalan membangun infrastruktur komputasi domestik dapat menyerahkan kepemimpinan teknologi dan standar operasional kepada pesaing asing seperti Tiongkok.

2. Mekanisme Ekonomi Pusat Data dan Gesekan pada Jaringan Listrik Publik#

Memahami ekonomi pusat data berskala sangat besar memerlukan evaluasi atas siklus kas dua bagian yang berbeda yang mengatur infrastruktur awan:

  • Bangunan Pusat Data dan Infrastruktur Listrik: Bangunan fisik pusat data dan sambungan listrik memerlukan komitmen modal sekitar dua tahun sebelum pemasangan server. Namun, bangunan ini merupakan aset dengan masa manfaat 30 tahun yang memerlukan satu pengeluaran modal utama.
  • Server dan Perangkat Keras Jaringan: Aset teknologi informasi—seperti rak server, perangkat jaringan, memori berlebar pita tinggi [HBM], dan memori akses acak dinamis [DRAM]—dibeli hanya beberapa bulan sebelum penerapan. Aset ini memiliki masa manfaat 5-hingga-6 tahun, biasanya mencapai titik impas dalam tiga tahun, dan didukung oleh kontrak pelanggan jangka panjang dengan durasi rata-rata lima tahun.

Karena bangunan pusat data memerlukan modal awal yang masif dua tahun sebelum menghasilkan pendapatan, penyedia infrastruktur awan berskala sangat besar mengalami tekanan sementara yang signifikan terhadap arus kas bebas (FCF) selama fase pembangunan yang dipercepat. Arus kas kembali normal dan bertumbuh secara majemuk setelah fasilitas mulai beroperasi, server dipasang, dan kontrak pelanggan mulai menghasilkan pendapatan. "Bahkan dengan belanja modal sebesar $220 miliar tahun ini, kami masih menyisakan sejumlah besar permintaan yang belum terpenuhi," kata Jassy dalam diskusi tersebut.

Secara bersamaan, pengembangan infrastruktur berskala sangat besar menghadapi gesekan politik dan penolakan masyarakat setempat terkait dampak lingkungan dan jaringan listrik. Data sumber empiris membantah beberapa kesalahpahaman umum di masyarakat:

  • Penggunaan Air: Sistem pendingin pusat data sangat efisien dibandingkan dengan properti komersial lama. Sebagai contoh, industri golf mengonsumsi air 200 kali lebih banyak daripada seluruh pusat data Amazon secara gabungan, dengan konsumsi air dalam dua hari yang melebihi penggunaan pusat data Amazon selama satu tahun penuh.
  • Emisi dan Generator Cadangan: Generator diesel cadangan di lokasi tidak beroperasi terus-menerus. Generator tersebut hanya beroperasi saat pemadaman listrik dan pemeliharaan rutin, berjalan sekitar 0.1% dari waktu dalam setahun (sekitar 10 jam per tahun).
  • Dampak terhadap Ekonomi Lokal dan Jaringan Listrik: Pusat data merupakan basis pajak yang sangat besar bagi komunitas pemerintah daerah tempat fasilitas berada. Di St. Joseph County, Indiana, Amazon telah membayar sekitar $3 miliar dalam pajak daerah. Selain itu, Amazon telah berkomitmen menyalurkan $1 miliar selama lima tahun secara langsung kepada komunitas tempat fasilitas berada melalui program "Built Together". Walaupun lonjakan kebutuhan listrik pada awalnya memaksa peningkatan jaringan, data historis dari wilayah di Indiana, Georgia, dan Mississippi menunjukkan bahwa setelah kapasitas infrastruktur jaringan listrik regional terpasang, tarif utilitas lokal tetap datar atau menurun seiring waktu.

3. Polarisasi Permintaan AI dan Peran Silikon Khusus#

Adopsi AI perusahaan saat ini menunjukkan ketidaksesuaian struktural, yang digambarkan Andy Jassy sebagai "permintaan berbentuk barbel". Konsumsi komputasi sangat terkonsentrasi pada dua ujung ekstrem pasar, sehingga sebagian besar beban kerja perusahaan belum tersentuh:

  • Ujung dengan Kebutuhan Komputasi Tinggi: Mencakup laboratorium riset AI terdepan dan aplikasi konsumen yang tumbuh sangat pesat, yang mengonsumsi kapasitas komputasi dalam jumlah masif tanpa memedulikan harga.
  • Ujung dengan Kebutuhan Komputasi Rendah: Mencakup perusahaan yang memanfaatkan AI untuk menghindari biaya dan meningkatkan produktivitas dalam lingkup terbatas, seperti layanan pelanggan otomatis dan deteksi penipuan.
  • Bagian Tengah yang Belum Tersentuh: Mencakup aplikasi produksi inti perusahaan, yang sebagian besar masih terikat pada arsitektur CPU lama.

Hambatan utama yang mencegah beban kerja produksi inti ini beralih ke akselerator AI adalah biaya inferensi. Walaupun biaya inferensi telah menurun, biayanya masih terlalu tinggi sebesar satu orde magnitudo untuk membenarkan penulisan ulang aplikasi arus utama. "Biaya inferensi... menurut saya masih terlalu mahal sebesar satu orde magnitudo untuk dapat digunakan seluas mungkin," ujar Jassy. Jika selisih biaya antara komputasi CPU standar dan komputasi yang dipercepat AI tetap tinggi, manfaat kinerja tambahan harus memenuhi ambang imbal hasil investasi yang luar biasa tinggi. Penurunan biaya inferensi merupakan satu katalis esensial yang diperlukan untuk membuka pasar bagian tengah yang masif ini.

Strategi Amazon untuk menurunkan biaya inferensi sangat bergantung pada silikon khusus yang dikembangkan oleh Annapurna Labs, perusahaan yang diakuisisi pada 2015. Pada awalnya, Annapurna diakuisisi untuk memindahkan tugas penyimpanan, jaringan, virtualisasi, dan keamanan dari CPU server ke kartu antarmuka jaringan [NIC] khusus. Arsitektur ini memungkinkan AWS mengalokasikan hampir 100% kapasitas CPU server Elastic Compute Cloud [EC2] secara langsung untuk beban kerja pelanggan.

Fondasi rekayasa ini menghasilkan dua keluarga cip penting:

  • CPU Graviton: Dikembangkan sebagai alternatif arsitektur x86 tradisional, cip Graviton memberikan keunggulan rasio harga terhadap kinerja sebesar 40% dibandingkan prosesor x86 standar. Saat ini, Graviton digunakan oleh 99% dari 1,000 pelanggan EC2 terbesar AWS.
  • Akselerator AI Trainium: Dirancang khusus untuk pelatihan pembelajaran mendalam dan inferensi, prosesor Trainium menawarkan keunggulan rasio harga terhadap kinerja sebesar 30% hingga 40% dibandingkan prosesor grafis komersial pesaing.

Dengan menurunkan biaya inferensi sebesar satu orde magnitudo melalui silikon khusus, Amazon bertujuan membuat penulisan ulang aplikasi perangkat lunak inti untuk integrasi AI secara luas menjadi layak secara ekonomi bagi perusahaan arus utama.

4. Desain Organisasi di Era Berbasis Agen dan Realitas Keamanan Siber#

Meluasnya AI generatif dan alat pengembangan berbasis agen secara mendasar mengubah rekayasa perangkat lunak, struktur tim, dan model operasi perusahaan. Tren historis menuju struktur organisasi yang sangat terspesialisasi—ketika masing-masing manajer produk atau insinyur bertanggung jawab atas bagian produk yang sangat kecil—mulai digantikan oleh tim lintas fungsi yang sangat ramping.

Contoh utama pergeseran kecepatan ini terjadi di AWS sendiri: tim rekayasa AWS Bedrock membangun ulang sepenuhnya mesin inferensi intinya dengan 6 insinyur dalam 76 hari. Secara historis, proyek infrastruktur sebesar itu memerlukan 40 insinyur yang bekerja selama satu tahun penuh. Demikian pula, tim internal kecil yang terdiri dari 4 hingga 5 insinyur kini mampu membangun prototipe perangkat lunak yang 80% siap dirilis hanya dalam satu akhir pekan.

Metrik kecepatan ini menandakan transisi mendasar dalam cara organisasi teknis mengalokasikan modal manusia:

  • Pergeseran Skala Tenaga Kerja: Organisasi perangkat lunak akan memerlukan lebih sedikit pengembang manusia untuk tugas lama seperti pengodean manual, pemrosesan dokumen hukum dasar, dan intelijen bisnis rutin. "Di masa depan, akan ada lebih sedikit manusia yang mengerjakan pekerjaan yang mereka lakukan hari ini dibandingkan jumlah yang kita miliki sekarang," jelas Jassy.
  • Tim yang Sejak Awal Bersifat Lintas Fungsi: Tim pengembangan akan beroperasi dengan struktur yang lebih kecil dan sangat luwes sejak tahap pembangunan lanjutan, dengan memanfaatkan model AI untuk melaksanakan 80% tugas rutin.
  • Waktu Menuju Pasar yang Dipersingkat: Siklus iterasi produk memendek dari peta jalan perencanaan selama berbulan-bulan menjadi siklus pembuatan prototipe intensif selama beberapa hari.

Namun, kecepatan berbasis agen menimbulkan ancaman keamanan siber yang serius. Model AI canggih menemukan kerentanan perangkat lunak lebih cepat daripada kemampuan spesialis keamanan manusia atau penguji penetrasi tradisional untuk mengidentifikasinya.

Secara tradisional, keamanan perangkat lunak bergantung pada identifikasi kerentanan, penyusunan tambalan, pengujian dependensi, dan penerapan pembaruan—proses yang sering memakan waktu berminggu-minggu atau berbulan-bulan. Dalam lingkungan ancaman berbasis agen, organisasi harus memangkas waktu penerapan tambalan menjadi hitungan menit. Untuk bertahan dalam pergeseran ini, perusahaan harus menulis ulang basis kode lama menjadi arsitektur yang dirancang sejak awal untuk agen, sehingga agen perangkat lunak otomatis dapat menemukan kerentanan, menambalnya, dan menerapkan pembaruan secara terus-menerus tanpa intervensi manual manusia.

5. Alokasi Modal, Aliansi Strategis, dan Perombakan Produk Inti#

Strategi penempatan modal Amazon memadukan pengembangan silikon milik sendiri dengan aliansi strategis bernilai miliaran dolar bersama pengembang model AI terkemuka.

Melalui kemitraannya dengan Anthropic, AWS bertindak sebagai penyedia utama pelatihan dan inferensi untuk model Claude. Anthropic telah berkomitmen pada penerapan komputasi multigigawatt yang dibangun menggunakan cip Trainium, sekaligus menawarkan modelnya secara bawaan di AWS Bedrock. Demikian pula, Amazon telah memperluas ekosistemnya untuk mendukung beban kerja OpenAI di AWS, dengan bersama-sama mengembangkan lingkungan eksekusi khusus yang mempertahankan status dan dirancang secara spesifik untuk eksekusi berbasis agen.

Selain menyediakan tempat bagi model eksternal, strategi teknologi perusahaan memerlukan perombakan produk matang yang sangat sukses dari dasar, alih-alih mengandalkan pembaruan fitur bertahap. Jassy mengutip perombakan menyeluruh Amazon Alexa sebagai studi kasus. Walaupun arsitektur awal Alexa merupakan terobosan saat diluncurkan, kemunculan AI generatif mengharuskan penggantian seluruh mesin yang mendasarinya.

Walaupun pembaruan perangkat lunak lama secara bertahap lebih mudah secara organisasi, mempertahankan kepemimpinan pasar memerlukan penulisan ulang yang mendasar. Aplikasi perusahaan yang sudah mapan di bidang ritel, video alir, dan pengelolaan awan harus menjalani perancangan ulang menyeluruh dengan AI sebagai fondasi agar tetap kompetitif menghadapi perusahaan rintisan baru yang dirancang sejak awal untuk agen.

Angka-Angka Utama#

  • $220 Miliar: Perkiraan belanja modal Amazon pada 2026 (~$600 juta per hari).
  • 36.7%: Pertumbuhan pendapatan AWS secara tahunan pada kuartal terbaru dengan laju pendapatan tahunan sebesar $169 miliar.
  • $25+ Miliar: Laju pendapatan tahunan AWS untuk bisnis kecerdasan buatan generatifnya dalam 3 tahun pertama (dibandingkan dengan laju pendapatan sebesar $60 juta setelah 3 tahun pada masa awal AWS).
  • 80%: Perkiraan pertumbuhan pendapatan Amazon secara keseluruhan dari 2021 hingga saat ini.
  • 3x: Besaran pertumbuhan AWS dari 2021 hingga saat ini.
  • 2.5x: Pertumbuhan pendapatan iklan Amazon dari 2021 hingga saat ini.
  • 30 Tahun vs. 5–6 Tahun: Masa manfaat infrastruktur pusat data (30 tahun) vs. perangkat server/jaringan (5–6 tahun, titik impas ~3 tahun).
  • 40%: Peningkatan rasio kinerja terhadap harga CPU Graviton dibandingkan prosesor x86 standar.
  • 30%–40%: Keunggulan rasio kinerja terhadap harga cip kecerdasan buatan Trainium dibandingkan prosesor yang sebanding.
  • 200x: Faktor pengali konsumsi air lapangan golf dibandingkan pusat data Amazon.
  • 0.1%: Persentase waktu dalam setahun ketika generator cadangan beroperasi (sekitar 10 jam per tahun).
  • $3 Miliar: Pajak yang dibayarkan Amazon di St. Joseph County, Indiana.
  • $1 Miliar: Komitmen selama lima tahun untuk masyarakat di lokasi pusat data melalui program "Built Together".
  • 6 Insinyur dalam 76 Hari: Cakupan pembangunan ulang mesin inferensi oleh tim Bedrock (vs. sebelumnya 40 orang selama 1 tahun).

Hal-Hal yang Akan Mengubah Gambaran Ini#

  1. Penurunan Biaya Inferensi secara Drastis: Penurunan besar biaya inferensi yang didorong oleh cip khusus (misalnya, Trainium), yang memicu bagian tengah dari strategi "barbel" (aplikasi perusahaan arus utama) untuk beralih dari arsitektur yang hanya menggunakan CPU.
  2. Teratasinya Kendala Pasokan Komponen dan Daya: Peningkatan signifikan dalam rantai pasok memori (HBM/DRAM), daya, dan pendinginan yang membuka kapasitas tambahan di luar kendala saat ini ketika seluruh kapasitas telah terjual (2026–2028).
  3. Penulisan Ulang secara Luas oleh Agen Otonom: Perusahaan berhasil memperbarui arsitektur basis kode lama agar dirancang untuk agen sejak awal, sehingga memungkinkan penerapan tambalan keamanan setiap menit.
  4. Perubahan dalam Kemitraan Infrastruktur Publik/Swasta: Percepatan investasi federal dan daerah dalam kapasitas jaringan listrik untuk mengimbangi permintaan industri akan komputasi berskala sangat besar.

Untuk menjelajahi lebih banyak riset gratis atau menguji model Anda sendiri, kunjungi platform DeepValues Research atau coba aplikasi DeepValues.

Sumber yang dikutip#

Amazon CEO Andy Jassy on the Infrastructure the AI Era Needs, hosted by a16z (Video Transcript).

Tonton

Tautan sumber

Tonton & dengarkan

Riset perusahaan

Teks riset berlisensi CC BY 4.0, kutip sebagai: DeepValues Research, Strategi Infrastruktur AI Amazon Senilai $220 Miliar: Chip Khusus, Ekonomi Pusat Data, dan Skala AI Perusahaan, https://research.deepvalues.ai/insights/2026-10-24-amazons-ai-era-and-infrastructure-expansion-id/

Email mingguan gratis

Margin of Safety Weekly

Setiap Sabtu: suhu pasar, apa yang dibeli dan dijual para investor hebat (13F), riset baru minggu ini, video dan podcast — gratis, tanpa perlu akun. Email dikirim dalam bahasa Inggris.

Send me the DeepValues Margin of Safety Weekly, one email every Saturday. I can unsubscribe at any time. Information only, not investment advice. Privasi

Lebih jauh

Jalankan analisis ini untuk saham apa pun dalam 2 menit

Deep Value Intelligence, analis AI multi-agen di balik laporan ini, menulis laporan yang sama untuk perusahaan tercatat mana pun sesuai permintaan.

Buka Deep Value Intelligence

Pantau 300+ saham di aplikasi DeepValues

Sikap, intrinsic value, dan laporan terbaru, di ponsel Anda.

Developer: sikap dan laporan lewat API

Fundamental, intrinsic value, sikap, dan tautan laporan di balik halaman-halaman ini, dalam bentuk JSON.

Dokumentasi API

Diskusi