Jakarta – Intel Corporation memperkenalkan akselerator artificial intelligence/AI (kecerdasan buatan) terbarunya yang bernama Gaudi 3. Perangkat ini diklaim memiliki performa 50% lebih baik dibandingkan Nvidia H100.
Gaudi 3 dipamerkan dalam konferensi Vision 2024 yang berlangsung di Phoenix, Arizona, Amerika Serikat. Sebelumnya, ini pernah diungkapkan dalam Intel AI Everywhere pada Desember 2023.
Chief Executive Officer (CEO) Intel Pat Gelsinger mengungkapkan Gaudi 3 akan menjadi pesaing chip AI Nvidia dan Advanced Micro Devices (AMD). Gaudi 3 adalah penerus Gaudi 2, terbuat dari dua chip TSMC 5nm dan dilengkapi 64 core Tensor generasi ke-5.
Kapasitas memori HBM2e-nya mencapai 128GB dengan kecepatan 3,7Gbps dan bandwidth 3,7 TB per detik.
Langkah ini naik dibandingkan chip generasi sebelumnya hanya memiliki 24 core Tensor, memori HBM2e 96GB berkecepatan 3,27Gbps, dan bandwidth 2,45TB per detik. Gaudi 3 juga tersedia dalam varian SRAM 96GB dan bandwidth 12,8TB per detik.
Hal lainnya adalah VRAM berkapasitas 128GB, kemampuan komputasi 1,835 TFLOPS FP8 dan BF16 matrix, serta konsumsi daya sebesar 900 watt.
Gaudi 2 hanya memiliki VRAM 96GB dan punya 835 TFLOPS di FP8 Matrix, 432 TFLOPS di BF16 Matrix, dan konsumsi dayanya hanya 600W.
Gaudi 3 juga dilengkapi 24 port Ethernet 200Gb agar lebih felksibel dan mendukung standar jaringan terbuka. Selain itu dukungan PCIe untuk berbagai kebutuhan, termasuk retrieval-augmented generation (RAG).
Kemudian memiliki kemampuan komputasi AI 4x lebih kencang di BF16, bandiwidth memori 1,5x lebih tinggi, dan bandwidth jaringan 2x lebih tinggi dibanding pendahulunya, cocok untuk keperluan melatih generative AI (GenAI).
Jika dibandingkan dengan Nvidia H100, Intel mengklaim chip AI terbarunya ini 50% lebih kencang saat dipakai untuk komputasi Llama2 7B dan 13B.
Selanjutnya, untuk model parameter GPT-3 175B dan konsumsi dayanya pun 40% lebih efisien dalam parameter yang sama.
Sampel chip Gaudi 3 sudah mulai dikirimkan untuk mitra Intel dan produksi massalnya dijadwalkan akan dimulai pada pertengahan kedua 2024.
Gaudi 3 dengan pendingin udara mulai dikapalkan pada Q3 2024, sementara varian dengan pendingin air baru mulai tersedia pada Q4 2024. (adm)
Sumber: detik.com
