Perkembangan Teknologi AI di ByteDance
ByteDance, perusahaan induk TikTok dan Douyin, dikabarkan sedang menyiapkan anggaran besar untuk membeli chip kecerdasan buatan (AI) dari Nvidia. Anggaran yang disiapkan mencapai 100 miliar yuan atau sekitar Rp 238,4 triliun. Dana ini akan digunakan untuk membeli GPU AI Nvidia H200, yang dikenal sebagai salah satu chip tercanggih untuk melatih model AI berskala besar.
Pembelian ini dilakukan karena meningkatnya kebutuhan komputasi di berbagai layanan ByteDance. Misalnya, chatbot Doubao yang kini memproses puluhan triliun token per hari. Angka ini jauh lebih tinggi dibandingkan dengan jumlah token yang diproses pada Desember 2024, yaitu sekitar 4 triliun token. Hal ini menunjukkan pertumbuhan penggunaan AI yang pesat di dalam ekosistem ByteDance.
Selain itu, layanan cloud Volcano Engine juga mengalami pertumbuhan pesat. Saat ini, Volcano Engine melayani lebih dari 100 klien korporasi dengan total penggunaan lebih dari 1 triliun token. Bahkan, Volcano Engine akan menjadi mitra AI cloud eksklusif untuk acara Gala Festival Musim Semi China Central Television, salah satu acara televisi paling populer di Tiongkok.
Kebijakan Pemerintah AS dan Impor Chip
Kabar pembelian chip AI ini muncul setelah pemerintahan Presiden AS Donald Trump melonggarkan aturan ekspor. Aturan baru ini memungkinkan penjualan GPU berbasis arsitektur Hopper, termasuk Nvidia H200, ke Tiongkok. Pemerintah Tiongkok kemudian menggelar pertemuan dengan perusahaan teknologi domestik, termasuk ByteDance, untuk menilai kebutuhan mereka sebelum memberikan izin impor.
Nvidia dilaporkan telah menyiapkan 80.000 unit chip AI H200 untuk dikirim ke Tiongkok. Meski demikian, pihak perusahaan masih menunggu persetujuan akhir dari regulator Tiongkok. Jika izin tidak diberikan tepat waktu, jadwal pengiriman bisa berubah.
Pengembangan Chip Internal oleh ByteDance
Selain bergantung pada chip Nvidia, ByteDance juga sedang mengembangkan dua chip AI kustom bersama Broadcom dan TSMC. Rencananya, chip ini akan diluncurkan pada 2026. Selain itu, unit internal ByteDance juga telah berhasil melakukan proses tape-out pada prosesor yang performanya mendekati Nvidia H20, versi chip yang dirancang khusus untuk pasar Tiongkok.
Meskipun chip buatan sendiri ini memiliki biaya produksi yang lebih rendah, mereka lebih difokuskan pada kebutuhan inference, yaitu proses menjalankan model untuk menghasilkan output dari input pengguna. Sementara itu, GPU Nvidia tetap diperlukan untuk proses training model AI yang lebih berat.
Proses Training Model AI
Proses training model AI memerlukan daya komputasi yang sangat besar. Oleh karena itu, GPU Nvidia H200 tetap menjadi pilihan utama bagi ByteDance. Dengan menggunakan chip ini, ByteDance dapat memperkuat infrastruktur AI-nya, terutama untuk layanan seperti algoritma rekomendasi halaman FYP, penayangan iklan, dan moderasi konten di TikTok dan Douyin.
Dengan investasi besar dalam chip AI dan pengembangan teknologi internal, ByteDance menunjukkan komitmen kuat untuk terus berkembang di bidang kecerdasan buatan. Langkah ini diharapkan dapat memperkuat posisi perusahaan dalam persaingan global di sektor teknologi.
