Perang Chip AI Kian Memanas di Panggung Global

Bayangkan sebuah pusat data raksasa yang bermandikan cahaya, ibarat kota yang tak pernah tidur. Puluhan ribu GPU bekerja tanpa henti, dengan suara kipas pendingin yang bergemuruh seperti air terjun. Aliran listrik mengalir di antara rak-rak server tanpa ujung, membuat seluruh bangunan terasa seperti organisme hidup yang bernapas. Hampir di setiap papan sirkuit, tersemat logo hijau khas Nvidia, yang menjadi sumber tenaga bagi segala hal—dari AI generatif, mesin pencari, sistem rekomendasi, hingga chatbot yang sedang Anda gunakan saat ini.

Namun, perhatikan lebih saksama. Di sudut lain pusat data yang sama, jenis chip berbeda tengah bangkit secara diam-diam. TPU Ironwood milik Google dan Trainium3 dari Amazon tengah mengumpulkan tenaga untuk menantang dominasi Nvidia di dunia chip kecerdasan buatan. Sebuah pertarungan teknologi yang berpotensi menjadi yang paling menentukan dalam sepuluh tahun terakhir kini mulai terhampar di depan mata.

Dominasi Nvidia memang menguntungkan dan sangat kuat, tetapi juga semakin memunculkan tanda tanya. Jika melihat data terbaru, Nvidia mencatat pendapatan kuartalan sebesar USD 57 miliar, dengan USD 51,2 miliar di antaranya berasal dari GPU pusat data. Margin laba kotor GAAP-nya mencapai 73,4%, angka yang bahkan melampaui banyak raksasa software dunia.

Sederhananya, setiap GPU yang dijual Nvidia menghasilkan keuntungan luar biasa besar. Inilah alasan mengapa investor sering menjuluki Nvidia sebagai “pedagang senjata di era AI.” Namun, keuntungan ini juga menghadirkan tekanan besar bagi pihak lain. Melatih model AI terdepan membutuhkan ribuan hingga puluhan ribu GPU. Ditambah lagi dengan memori HBM, klaster penyimpanan skala besar, jaringan berkecepatan tinggi, serta biaya listrik yang terus melonjak, struktur biaya pun menjadi sangat mahal. Tidak sedikit layanan AI yang sangat populer tetap kesulitan mencetak keuntungan.

Karena itu, para eksekutif dan investor terus mempertanyakan satu hal yang sama.

Sampai kapan kita mampu menanggung harga Nvidia yang semakin tinggi?

Pertanyaan inilah yang membuka pintu peluang bagi Google dan Amazon. Selama bertahun-tahun mereka menjadi pelanggan terbesar Nvidia. Kini, mereka telah tiba di titik balik.

Jika biaya GPU terus melonjak, mengapa tidak membuat chip sendiri?

TPU Ironwood milik Google mulai menunjukkan kekuatannya secara diam-diam di pusat data. TPU generasi ketujuh terbaru ini, yang diberi nama Ironwood, dirancang khusus sebagai akselerator AI untuk beban kerja machine learning ber-throughput tinggi. Chip ini mampu menghadirkan 4.614 TFLOPS kinerja FP8, dilengkapi 192 GB memori HBM3e dengan bandwidth sekitar 7,3 TB/detik.

Daya tarik sesungguhnya terletak pada skalanya. Hingga 9.216 chip Ironwood dapat dihubungkan menjadi satu superprosesor tunggal dengan total daya komputasi FP8 melampaui 40 exaflops, serta memori bersama mencapai 1,7 PB. Google pun menyebut sistem ini sebagai superkomputer AI.

Lebih menarik lagi, Google secara terbuka membandingkan Ironwood dengan GB300 milik Nvidia yang akan datang, dan mengklaim keunggulan di sisi performa FP8. Pesannya sangat jelas.

Nvidia bukan lagi satu-satunya mesin penggerak masa depan AI.

Saat ini, Ironwood telah digunakan untuk beban kerja internal Google dan tersedia lewat sebagian instance AI Google Cloud. Meski belum dirilis secara komersial penuh, arah perubahan dari dominasi tunggal Nvidia sudah terlihat jelas.

Trainium3 dari Amazon hadir untuk membentuk ulang lanskap ekonomi infrastruktur AI. Melalui Amazon Web Services (AWS), Amazon meluncurkan chip AI generasi ketiga Trainium3, yang dirancang oleh Annapurna Labs dan diproduksi dengan proses 3 nanometer. Chip ini memiliki daya komputasi 2,52 FP8 petaflops, 144 GB memori HBM3e, serta bandwidth 4,9 TB/detik.

AWS mengintegrasikan 144 chip Trainium3 ke dalam EC2 Trn3 UltraServer terbaru. Dalam satu rak saja, sistem ini mampu menghadirkan 362 FP8 petaflops, 20,7 TB memori HBM3e, serta bandwidth masif 706 TB per detik. Platform ini dirancang khusus untuk pelatihan model raksasa dan beban kerja dengan panjang konteks yang melampaui satu juta token.

Strategi di baliknya sangat sederhana.

AWS ingin menawarkan infrastruktur AI yang lebih murah bagi pelanggan, sekaligus merebut kembali keuntungan yang selama ini mengalir ke kantong Nvidia.

Salah satu perubahan terbesar pun diumumkan. AWS menyatakan bahwa Trainium4 generasi berikutnya akan dapat terhubung dengan GPU Nvidia melalui NVLink. Dalam skema hibrida ini, tugas berat ditangani oleh perangkat keras Nvidia, sementara beban inferensi yang lebih ringan dialihkan ke Trainium. Tujuannya bukan untuk menghapus Nvidia sepenuhnya, melainkan menurunkan biaya total secara signifikan.

Para pengembang tetap mencintai Nvidia, karena CUDA masih tak tergoyahkan. Di atas kertas, berpindah ke TPU atau Trainium memang terlihat mudah. Namun jika bertanya langsung kepada para insinyur, jawabannya hampir selalu sama.

CUDA jauh lebih mudah digunakan.

Sejak 2006, Nvidia membangun CUDA menjadi ekosistem pemrograman GPU paling matang di dunia. Bahkan sebelum AI generatif meledak, para peneliti, fisikawan, dan pionir deep learning sudah lebih dulu bereksperimen di atas CUDA. Hingga hari ini, fitur-fitur machine learning terbaru pun biasanya pertama kali hadir di perangkat Nvidia.

Perusahaan pun terjebak dalam dilema besar. Seluruh tumpukan perangkat lunak mereka—mulai dari pipeline, kernel, hingga optimasi khusus—telah diatur untuk CUDA. Migrasi ke TPU atau Trainium berarti menulis ulang dan menyetel ulang sistem dalam skala besar. Penghematan biaya secara teori sering kali tidak sebanding dengan risiko nyata di lapangan.

Google dan AWS memang menegaskan bahwa chip mereka kompatibel dengan PyTorch, TensorFlow, dan JAX, serta mengklaim perpindahan framework semudah mengubah satu baris kode. Ini mungkin berlaku untuk demo kecil. Namun untuk AI skala produksi, realitasnya jauh lebih kompleks—ibarat labirin yang terdiri dari kernel khusus, lapisan komunikasi, dan algoritma yang dioptimalkan secara manual hingga titik ekstrem.

Inilah alasan mengapa benteng Nvidia jauh lebih sulit ditembus daripada yang terlihat di permukaan.

Serangan balik Nvidia: melaju dengan kecepatan absolut untuk menyalip semua pesaing. Nvidia menyadari ancaman ini dengan sangat jelas. Karena itu, mereka bergerak lebih awal. Bahkan sebelum arsitektur Blackwell diterapkan secara luas, Nvidia sudah mengumumkan arsitektur Rubin serta sistem generasi berikutnya, Vera Rubin NVL144.

Rubin menargetkan performa inferensi 50 FP4 petaflops per GPU. Rak NVL144 melampaui 3,6 exaflops, lebih dari tiga kali lipat performa generasi sebelumnya, GB300 NVL72.

Selanjutnya, Nvidia memperkenalkan Rubin CPX, chip inferensi pendamping yang menangani konteks panjang, sementara GPU Rubin fokus pada generasi informasi. Kombinasi rak Vera Rubin NVL144 CPX ditargetkan mencapai 8 exaflops NVFP4, 100 TB memori, dan 1,7 PB/detik bandwidth.

Inilah strategi Nvidia.

Jika pesaing mulai mendekat, percepat roadmap hingga mereka tak lagi mampu mengejar.

Bagi pelanggan yang bertaruh pada TPU atau Trainium, ini memunculkan pertanyaan yang sangat realistis: apakah keunggulan ekonomi saat ini akan kembali terbalik dalam dua atau tiga tahun ke depan?

Mampukah Nvidia mempertahankan tahtanya? Ada tiga skenario yang paling mungkin terjadi.

Pertama, Nvidia tetap menjadi pemimpin, tetapi margin keuntungannya menurun. Ketika Google, AWS, dan AMD semakin membesar, margin 70% milik Nvidia tentu tidak akan bertahan selamanya.

Kedua, pasar bergerak menuju struktur multipolar. Seperti CPU yang akhirnya terpecah antara Intel, AMD, ARM, dan chip nasional berbagai negara, pasar akselerator AI pun berpotensi mengikuti pola serupa. Nvidia masih memimpin, tetapi tak lagi memegang kekuasaan monopoli.

Ketiga, gelembung AI mendingin. Antusiasme perusahaan menurun, belanja GPU melambat, dan Nvidia menjadi pihak pertama yang terkena dampaknya. Namun, melihat tren adopsi saat ini, skenario ini lebih menyerupai perlambatan dibanding kehancuran total.

Jalur paling realistis adalah kombinasi dari skenario pertama dan kedua. Nvidia tetap menjadi raksasa industri, tetapi Google dan Amazon kini telah masuk ke wilayahnya dan mulai menggerogoti kekuasaannya.

Lalu, apa artinya semua ini bagi pihak lain? Bagi pengguna umum dan para pengembang, pertanyaan sesungguhnya adalah sebagai berikut.

Bagaimana pengalaman penggunaan dan biaya AI akan berubah dalam sepuluh tahun ke depan?

Akankah layanan AI berbasis langganan menjadi lebih murah? Mampukah model memproses konteks yang lebih panjang, serta melakukan multitasking secara mulus dalam berbagai skenario seperti teks, video, 3D, dan gim? Apakah kita akan menyaksikan ekosistem AI yang berkembang di bawah dominasi chip khusus?

Pertarungan chip AI bukan sekadar soal siapa yang menang atau kalah. Ini tentang siapa yang akan menulis ulang aturan komputasi untuk sepuluh tahun ke depan.

Nvidia masih duduk kokoh di atas singgasana. Namun Google dan Amazon bukan lagi penonton dari kejauhan—mereka kini tengah menajamkan pedangnya di dalam halaman istana.

Masa depan AI akan ditentukan oleh bagaimana para raksasa ini memilih untuk bertarung.

Disclaimer: Artikel ini merupakan karya asli penulis dan sepenuhnya mencerminkan pandangan pribadi penulis. Pemuatan ulang oleh Semiconductor Industry Observer semata-mata bertujuan untuk menghadirkan sudut pandang yang berbeda, serta tidak mewakili persetujuan atau dukungan terhadap opini yang disampaikan. Jika terdapat keberatan, silakan menghubungi Semiconductor Industry Observer.