Intel menggunakan konferensi Vision 2024 di Arizona hari ini untuk mengumumkan akselerator AI Gaudi 3. Dengan Gaudi 3 hadir beberapa klaim AI yang cukup berani dari Intel: rata-rata 50% inferensi lebih baik dan rata-rata 40% efisiensi daya lebih baik daripada NVIDIA H100. Semuanya berharga “sebagian kecil” dari NVIDIA H100. Gaudi 3 terdengar cukup menjanjikan dan akan menarik untuk melihat bagaimana adopsinya di pasar. Selain itu, Intel juga mengungkapkan merek Xeon 6 baru untuk prosesor server mendatang mereka yang sebelumnya diberi nama kode Sierra Forest dan Granite Rapids.
Intel mengumumkan akselerator AI Gaudi 3 sebagai iterasi berikutnya dari lini Habana Labs Gaudi dan penerus Gaudi 2. Gaudi 3 akan tersedia tahun ini dan mendahului Intel Falcon Shores yang sangat dinantikan.
Gaudi 3 adalah desain 5nm dan memiliki fitur 2x komputasi FP8, 4x komputasi BF16, 2x bandwidth jaringan, dan 1,5x bandwidth memori di atas sudah sangat mumpuni Akselerator AI Gaudi 2.
Gaudi 3 dilengkapi 64 inti prosesor tensor generasi ke-5, 8 mesin matematika matriks, HBM 128GB dengan bandwidth 3,7 TB/dtk, sRAM 96MB, 24 x 200 GbE, dan konektivitas PCIe 5.0 x16.
Setidaknya untuk proyeksi Intel sendiri , mereka mengharapkan Gaudi 3 mengungguli NVIDIA H100 secara tajam di berbagai model bahasa besar.
Seperti AMD dan tidak seperti NVIDIA, tumpukan perangkat lunak Gaudi Intel adalah perangkat lunak sumber terbuka dan ekosistem yang jauh lebih terbuka secara luas dibandingkan dengan taman CUDA yang bertembok.
Gaudi 3 akan tersedia sebagai kartu akselerator HL-325L yang sesuai dengan OAM, alas tiang universal HLB-325, dan sebagai kartu tambahan HL-338 PCIe CEM.
Gaudi 3 suku cadang berpendingin udara dan berpendingin cairan diambil sampelnya pada H1’2024 sementara ketersediaan produksi volume diharapkan pada semester kedua 2024.
Sejauh ini saya belum melihat patch publik apa pun yang berfungsi untuk menghadirkan dukungan Gaudi 3 dalam driver kernel akselerator Habana Labs untuk Linux, tetapi mungkin hal itu akan segera dimulai untuk mendapatkan dukungan upstream sumber terbuka yang bagus pada saat peningkatan volume.
Selain Gaudi 3, Intel hari ini mengumumkan Prosesor Intel Xeon 6. Prosesor Intel Xeon 6 ditujukan untuk pusat data, cloud, dan edge. Prosesor Intel Xeon 6 dengan E-core akan diluncurkan pada kuartal ini (Sierra Forest) sedangkan Intel Xeon 6 dengan core performa (Granite Rapids) akan diluncurkan “segera setelah prosesor E-core”. Dengan CPU Intel Xeon 6 Sierra Forest, mereka saat ini mempromosikan peningkatan kinerja 2,4x per Watt dan kepadatan rak 2,7x lebih baik dibandingkan prosesor Xeon Generasi ke-2. Untuk CPU Intel Xeon 6 Granite Rapids, mereka hari ini mempromosikan format data MXFP4
Gaudi 3 terdengar seperti peningkatan yang bagus untuk lini produk Gaudi di depan Intel Falcon Shores yang mengintegrasikan GPU Xe generasi berikutnya untuk AI yang dipasangkan dengan Intel Gaudi IP pada saat yang sama chip untuk menghadirkan pembangkit listrik oneAPI. Perangkat kerasnya bagus dan akan terus didukung oleh dukungan perangkat lunak sumber terbuka Intel. Di sisi Intel Xeon 6 kami sangat senang melihat Sierra Forest dan Granite Rapids di lab untuk pengujian Linux dan tolok ukur kinerja.
Itulah berita seputar Intel Mengumumkan Akselerator AI Gaudi 3, Merek Intel Xeon 6, semoga bermanfaat. Disadur dari Phoronix.com.