Jakarta – ByteDance berencana mengembangkan model artificial intelligence (AI) akan dilatih menggunakan chip buatan Huawei. Langkah ini dilakukan setelah Amerika Serikat (AS) melarang ekspor chip AI dari perusahaan seperti Nvidia.
Chip AI dari Huawei yang dipakai oleh ByteDance adalah Ascend 910B yang akan dipakai untuk melatih large language model (LLM) AI buatannya.
Pada saat yang sama ByteDance dikabarkan berniat membuat model AI baru, tapi tidak diketahui apakah memakai chip dari Huawei. Namun, isu ini dibantahnya dengan mengatakan tidak ada chip yang dikembangkannya.
Selama ini ByteDance sudah menggunakan Ascend 910B, tapi ini hanya dipakai untuk tugas-tugas yang membutuhkan komputasi rendah yang tidak terlalu intesif seperti melatih model AI untuk tugas ringan seperti membuat perkiraan.
Pasalnya, untuk melatih model AI secara membutuhkan kemampuan komputasi yang jauh lebih besar, karena dataset-nya pun jauh lebih besar. Jadi, tugas ini lebih tepat dikerjakan menggunakan chip AI Nvidia yang performanya jauh lebih kencang.
ByteDance sudah memesan 100 ribu lebih chip Ascen 910B dari Huawei, alias menjadi salah satu konsumen chip AI Huawei yang terbesar sepanjang tahun ini. Namun, dari jumlah ini hanya bisa dipenuhi 30 ribu chip per Juli lalu atau lebih rendah ketimbang Nvidia yang sanggup memenuhi kebutuhannya.
Dengan begitu ByteDance mengalami persoalan, sehingga membatasi rencana pengembangan AI.
Teknologi AI ByteDance menggunakan LLM yang diluncurkan pada Agustus 2023 yang dinamakan chatbot Doubao dipakai di banyak aplikasi lain seperti fitur text to video bernama Jimen.
Penggunaan aplikasi-aplikasi AI ini melesat sejak awal 2024 ini, bahkan chatbot ByteDance ini menjadi salah satu aplikasi paling populer di China. Hal ini dipakai 10 juta lebih pengguna aktif bulanan.
ByteDance sebagai salah satu pengguna chip Nvidia H20 yang dibuat khusus oleh Nvidia untuk pasar China. Mereka juga menjadi klien terbesar Microsoft di Asia yang menggunakan layanan cloud computing untuk server pengolah AI. (adm)
Sumber: detik.com
