Blackwell B200 Dirilis GTC 2024: Successor H100
NVIDIA memperkenalkan Blackwell B200 pada GTC 2024, 18 Maret 2024, sebagai penerus langsung H100. Chip ini menandai lompatan arsitektur signifikan untuk beban kerja AI skala besar, memperkuat posisi NVIDIA sebagai pemasok dominan infrastruktur AI.
Arsitektur Dual-Die 208 Miliar Transistor
B200 mengadopsi desain dual-die yang terhubung melalui NVLink 7.2, mencapai 208 miliar transistor. Pendekatan ini meningkatkan densitas komputasi tanpa memperluas area silicon tunggal. Detail arsitektur dibahas lebih lanjut di analisis arsitektur Blackwell B200.
Proses TSMC 4NP dan NVLink 7.2
Produksi menggunakan proses TSMC 4NP, varian 4 nm yang dioptimalkan untuk performa dan efisiensi. NVLink 7.2 menyediakan interconnect berkecepatan tinggi antar die dan antar GPU, mendukung skalabilitas rack-scale.
Spesifikasi Teknis: 192GB HBM3e, 8TB/s Bandwidth
Memori dan Throughput
Setiap B200 dilengkapi 192 GB memori HBM3e dengan bandwidth 8 TB/s. Kapasitas dan kecepatan ini krusial untuk melayani model bahasa besar dan inferensi generatif dengan latensi rendah.
20 Petaflops AI Compute
NVIDIA mengklaim performa puncak 20 petaflops AI (FP4 sparse). Angka ini mencerminkan throughput teoritis untuk operasi matriks berpresisi rendah yang umum di training dan inferensi deep learning.
Performa vs H100: 4x Training, 30x Inference
Benchmark Training LLM
Menurut data NVIDIA, B200 menawarkan hingga 4x throughput training dibanding H100 pada beban kerja LLM standar. Peningkatan berasal dari kombinasi compute density, bandwidth memori, dan efisiensi NVLink.
Inference Throughput Generative AI
Klaim 30x inferensi mengacu pada skenario generatif tertentu dengan batch size besar dan optimasi kernel terbaru. Hasil nyata bervariasi tergantung model, software stack, dan konfigurasi sistem.
Harga $30k-$40k per Unit, Stok Pra-Jual Habis
Alokasi Terbatas untuk Hyperscaler
Harga per unit dikisarkan $30.000–$40.000. Permintaan pra-jual melebihi pasokan awal, memaksa NVIDIA mengalokasikan unit secara selektif ke pelanggan strategis.
Daftar Pelanggan: Microsoft, Google, Meta, Amazon, Oracle, Tesla
Hyperscaler utama telah mengunci alokasi volume besar. Microsoft, Google, Meta, Amazon, Oracle, dan Tesla menjadi pembeli awal yang mendominasi kapasitas produksi awal.
GB200 Superchip: 2x B200 + Grace CPU
Arsitektur Rack-Scale NVL72
GB200 menggabungkan dua B200 dengan satu CPU Grace melalui NVLink-C2C, membentuk blok bangunan untuk rack NVL72. Rack NVL72 menampung 72 GPU B200 dalam domain NVLink tunggal. Tantangan termal pada desain ini telah menimbulkan kekhawatiran, seperti yang dilaporkan di laporan overheating NVL72.
Power Density 120kW per Rack
Rack NVL72 mengkonsumsi hingga 120 kW, menuntut pendingin cair (liquid cooling) skala data center. Kepadatan daya ini mendorong revisi desain fasilitas oleh operator cloud.
Timeline Pengiriman dan Ketersediaan
Q3-Q4 2024: Sampling Early Customers
Pengiriman sampel ke pelanggan prioritas dimulai kuartal ketiga 2024.
Late 2024: Volume Production
Produksi volume penuh diperkirakan akhir 2024, tergantung yield TSMC 4NP dual-die.
2025: Broad Availability & Blackwell Ultra (B300)
Ketersediaan luas diperkirakan 2025, disertai rumor varian Blackwell Ultra (B300) dengan peningkatan performa tambahan.
Lanskap Kompetitif: AMD MI325X, Intel Gaudi 3, Custom Silicon
AMD menyiapkan MI325X dan MI350, Intel memperkenalkan Gaudi 3, sementara hyperscaler mengembangkan silicon kustom (TPU, Trainium, Maia). Kompetisi meningkat, namun ekosistem CUDA dan NVLink menciptakan barrier to entry yang tinggi.
Implications: Vendor Lock-in CUDA, Software Monetization
Dominasi keras diperkuat oleh lock-in software: CUDA, cuDNN, Triton, NeMo, dan NVIDIA AI Enterprise. Monetisasi layanan software menjadi driver pertumbuhan berkelanjutan. Perkembangan chip terbuka seperti RISC-V (laptop RISC-V 2026) dan AI generatif untuk desain chip (AI generatif desain chip) jangka panjang bisa mengubah dinamika, namun saat ini NVIDIA mengendalikan tumpukan penuh.
Top comments (0)