Memulai benchmarking NVIDIA GH200 Grace Hopper di Phoronix adalah tampilan awal performa CPU Grace 72-core dengan memori HBM3 96GB. Berikut adalah beberapa tolok ukur awal kinerja CPU Grace sementara tolok ukur GPU Hopper akan hadir dalam artikel lanjutan. GH200 NVIDIA menggabungkan CPU Grace 72-core dengan GPU Tensor Core H100 dan mendukung memori LPDDR5 hingga 480 GB dan 96 GB memori HBM3 atau 144 GB HBM3e. CPU Grace menggunakan inti Arm Neoverse-V2 dengan cache L2 1 MB per inti dan cache L3 117 MB.
GPTshop.ai menyediakan akses ke NVIDIA GH200 untuk pembandingan di Phoronix. GPTshop.ai sedang membangun apa yang mereka tuju untuk menjadi “desktop kelas atas terbaik” sebagai superkomputer yang dibangun berdasarkan GH200 yang berfokus pada beban kerja AI dan HPC. Sistem mereka menggunakan catu daya ganda GH200 Grace Hopper Superchip 2000+ Watt, motherboard QCT, dan dapat dikonfigurasi dengan beberapa SSD serta berbagai adaptor NVIDIA Bluefield/Connect-X dan banyak lagi.
Mengingat fokus desktop, sistem GPTshop.ai GH200 ditempatkan di sasis menara. Sistem ini juga telah dioptimalkan untuk bekerja dengan sangat senyap namun tetap mengandalkan pendingin udara — meskipun mereka memiliki model GH200 Liquid bagi mereka yang menginginkan pendingin cair.
Harga dengan GH200 tidak murah dengan model GPTshop.ai GH200 576GB yang tersedia saat ini mulai dari 47.500 € (~$41k USD karena tidak ada pajak saat dikirim ke luar UE). Lihat di sini untuk berbagai konfigurasi dan pembelian sistem desktop GPTshop.ai AI.
Dengan standar NVIDIA GH200, distribusi Linux AArch64 dapat berjalan di sistem. Untuk keperluan pengujian ini Ubuntu 23.10 dengan Linux 6.5 digunakan karena memiliki kernel terbaru serta kompiler stok GCC 13. Versi toolchain mendekati apa yang akan ditemukan di Ubuntu 24.04 LTS pada bulan April dan penggunaan Ubuntu 23.10 bermanfaat untuk melihat kinerja NVIDIA GH200 Linux yang terdepan serta dibandingkan dengan Intel Xeon Scalable, AMD EPYC, dan Ampere Altra lainnya. Prosesor maksimal untuk perbandingan ini.
Sistem GPTshop.ai GH200 yang diuji menggunakan 72 core, motherboard Quanta S74G, RAM 480GB, dan drive SSD SAMSUNG MZTL21T9 960GB SAMSUNG MZ1L2960HCJR-00A07 + 1920GB. Semua prosesor server yang diuji untuk perbandingan ini berjalan pada frekuensi memori peringkat teratas dan jumlah maksimum saluran memori yang didukung.
Prosesor lain yang ditampilkan untuk benchmarking CPU GH200 awal ini meliputi:
– EPYC 8534P
-EPYC 8534PN
-EPYC 9554
-EPYC 9554 2P
-EPYC 9654
-EPYC 9654 2P
-EPYC 9684X
-EPYC 9684X 2P
-EPYC 9754
-EPYC 9754 2P
-Xeon Platinum 8280 2P
-Xeon Platinum 8380
-Xeon Platinum 8380 2P
-Xeon Platinum 8490H
-Xeon Platinum 8490H 2P
-Xeon Platinum 8592+
– Xeon Platinum 8592+ 2P
– Ampere Altra Max M128-30
– GPTshop.ai GH200
Seperti disebutkan, Ubuntu 23.10 digunakan di semua server ini dan untuk putaran awal benchmarking ini adalah semua benchmark yang berfokus pada CPU. Benchmark yang melihat GPU H100 akan digunakan untuk artikel lanjutan bersama dengan berbagai benchmark kinerja Linux lainnya dari GPTshop.ai GH200 serta dalam beberapa minggu ke depan membandingkan kinerja GPTshop.ai dengan server QCT dan Giga Computing GH200.
Terima kasih kepada GPTshop .ai untuk menyediakan akses jarak jauh untuk memungkinkan pembandingan NVIDIA GH200 independen ini.
Sayangnya tidak ada angka konsumsi daya untuk artikel hari ini. NVIDIA GH200 tampaknya saat ini tidak mengekspos antarmuka RAPL/PowerCap/HWMON apa pun di Linux karena hanya dapat membaca penggunaan daya/energi GH200. BMC pada sistem memang mengekspos konsumsi daya sistem secara keseluruhan melalui antarmuka web namun data daya tidak diekspos oleh IPMI karena dapat menanyakan hal ini dengan bersih dari host. Jadi, sayangnya, artikel ini hanyalah angka benchmark kinerja CPU mentah awal sambil berupaya mencari cara apa pun agar dapat membaca dengan baik metrik daya yang tersedia.
Itulah berita seputar Tolok Ukur Kinerja CPU NVIDIA GH200 Terhadap EPYC Zen 4 & Xeon Emerald Rapids, semoga bermanfaat. Disadur dari Phoronix.com.