Today adalah babak pembandingan yang sangat menyenangkan dan menarik… Baru-baru ini Supermicro mengirimkan Hyper SuperServer SYS-221H-TNR mereka dan Intel memasok Xeon Max 9468 dan Xeon Max 9480 karena akhirnya dapat melakukan benchmark prosesor Xeon Max, suku cadang Sapphire Rapids menampilkan memori HBM2e 64GB. Untuk artikel pembandingan awal ini, lihat kinerja soket ganda Xeon Max 9468/9480 saat berjalan dalam mode HBM saja dan mode caching HBM untuk menunjukkan beberapa beban kerja di mana Xeon Max dapat memberikan peningkatan yang signifikan dibandingkan dengan saat berjalan di flat ( 1LM) tanpa menetapkan apa pun ke memori HBM untuk melihat dampak saat memori khusus tidak digunakan.
Sejak peluncuran Intel 4th Gen Xeon Scalable “Sapphire Rapids” pada bulan Januari, saya sangat ingin mendapatkan Xeon Max, juga biasa disebut sebagai SPR HBM2e. Seri CPU Xeon Max menampilkan memori bandwidth tinggi terintegrasi, yang untuk generasi ini semua SKU Xeon Max memiliki 64GB HBM2e sementara jumlah inti berkisar dari 32 hingga 56 inti dengan unggulan Xeon Max 9480.
Seperti dengan Intel 4th konvensional Jajaran Gen Xeon Scalable, seri Intel Xeon Max mendukung Advanced Matrix Extensions (AMX), AVX-512, DDR5, CXL 1.1, dan fitur platform umum lainnya. Dengan Xeon Max, fokusnya bukan pada cerita akselerator melainkan pada beban kerja yang dapat memanfaatkan memori bandwidth tinggi.
Seri Xeon Max mendukung tiga mode operasi yang berbeda: mode HBM-Only, HBM Flat, dan HBM Cache. Dalam mode khusus HBM adalah tempat server beroperasi sepenuhnya dalam memori HBM2e 64GB (atau 128GB untuk skenario soket ganda). Mode khusus HBM berfungsi dengan tidak mengisi slot memori DDR5 apa pun di server dan melakukan booting. Mode cache HBM adalah mode default di mana menjalankan Xeon Max CPU sambil memasang memori DDR5. Dalam mode ini, HBM2e bekerja secara transparan sebagai cache dan tidak memerlukan perubahan sisi perangkat lunak. Terakhir adalah mode datar HBM, yang dapat diaktifkan melalui BIOS saat DDR5 diisi dengan server Xeon Max. Dalam mode datar HBM, wilayah memori datar dengan HBM dan DRAM dapat dibuat untuk lebih banyak fleksibilitas dibandingkan perangkat lunak yang menggunakan HBM2E. Namun untuk mode datar HBM, perubahan perangkat lunak mungkin diperlukan.
Untuk tolok ukur hari ini untuk melihat performa HBM2e, selain mode caching HBM dan mode khusus HBM, mode datar HBM telah diuji tetapi tanpa menugaskan apa pun ke Memori HBM2e untuk menguji prosesor ini secara efektif hanya pada memori DDR5 dengan HBM2e tidak digunakan untuk melihat dampaknya tidak aktif / efektif tidak digunakan.
Mode khusus HBM sangat menarik untuk beban kerja yang dapat ditampung dalam kapasitas 64GB per soket. Dengan Xeon Max 9480 memiliki 56 inti, itu sedikit lebih dari 1GB memori per inti, yang tidak cocok untuk banyak beban kerja yang sangat rumit saat ini tetapi masih ada sejumlah skenario yang layak di mana 1 ~ 2GB RAM per core memuaskan. Di ujung bawah adalah Xeon Max 9462 dengan 32 inti di mana setidaknya itu berarti 2GB HBM2E per inti. Akan sangat menarik jika untuk generasi mendatang seri Xeon Max dapat mencapai ~128GB atau lebih dari HBM2E untuk membuka lebih banyak kemungkinan dengan jumlah inti yang lebih tinggi, idealnya memiliki minimal 2GB per inti. beban kerja antara mode caching HBM saja dan HBM plus HBM tidak digunakan/tidak aktif di mana perangkat lunak dapat bertahan dengan 128GB (soket ganda) versus mode caching dengan 512GB DDR5-4800 plus cache HBM2E 128GB. Artikel lanjutan akan membahas area lain dari kinerja Xeon Max Linux untuk HPC dan AI serta melawan persaingan.
Xeon Max 9468 adalah bagian SPR HBM2e 48-core Intel yang memiliki frekuensi dasar 2,1GHz dan all-core turbo 2.6GHz atau frekuensi turbo maksimum 3.5GHz. Xeon Max 9468 memiliki cache 105MB selain HBM2E. Prosesor unggulan Xeon Max 9480 memiliki 56 core, clock dasar 1,9GHz. 2.6GHz all-core turbo, dan frekuensi turbo maksimum 3.5GHz sementara memiliki cache 112.5MB. Baik Xeon Max 9468 dan Xeon Max 9480 memiliki peringkat TDP 350 Watt.
Intel Xeon Max 9480 memiliki harga pelanggan yang disarankan $12.980 yang jauh lebih rendah daripada Xeon Platinum 8490H 60-core yang memiliki label harga $17.000 dan tidak terlalu jauh lebih tinggi daripada AMD EPYC 9654 dengan harga sekitar $11.800. Selain itu, jika Anda dapat bertahan dalam mode HBM saja, cukup menghemat biaya memori DDR5.
Untuk menguji prosesor Intel Xeon Max, Supermicro menyediakan unit ulasan Hyper SuperServer SYS-221H-TNR. SYS-221H-TNR adalah solusi soket ganda LGA-4677 yang bagus dengan semua lonceng dan peluit yang Anda inginkan untuk Sapphire Rapids. Ulasan Supermicro SYS-221H-TNR akan hadir secara terpisah di antara artikel Xeon Max lainnya yang muncul di Phoronix selama beberapa minggu ke depan.
Untuk putaran awal pengujian ini, semua soket ganda Supermicro SYS-221H-TNR + Xeon Max 9468/9480 pengujian dilakukan dengan Ubuntu 23.04 menggunakan stok kernel Linux 6.2 dan kompiler GCC 12.2 saat berjalan dalam mode gubernur kinerja Intel CPUFreq. Server beroperasi untuk semua tolok ukur dalam mode SNC4. Perlu diketahui bahwa semua pengujian prosesor hari ini menggunakan pendingin udara stok SYS-221H-TNR. Untuk penerapan Xeon Max 9480 yang sangat menuntut, Intel mendorong penggunaan pendingin cair. Intel mendorong mitra mereka untuk menggunakan pendingin cair untuk memenuhi suhu casing yang ditentukan (TCase) dari SKU yang diberikan. TCase untuk Xeon Max 9480 direkomendasikan menjadi 64°C atau 77°C pada Xeon Max 9468.
Mari kita lanjutkan dan lihat di mana Xeon Max dengan memori HBM2E membuat dampak yang menarik pada kinerja.
Itulah berita seputar Intel Xeon Max 9480/9468 Menunjukkan Peningkatan Signifikan Pada Beban Kerja HPC & AI Dengan HBM2e, semoga bermanfaat. Disadur dari Phoronix.com.