Pada acara AI AMD hari ini, perusahaan memberikan rincian lebih lanjut tentang seri Instinct MI300 untuk akselerator GPU diskrit APU dan CDNA3 pusat data mereka yang sangat menarik. ROCm 6.0 juga diumumkan untuk meningkatkan kemampuan perangkat lunak AI AMD.
Dengan akselerator AMD Instinct MI300X mereka menargetkannya secara langsung sebagai alternatif yang sangat baik untuk NVIDIA untuk akselerasi AI.
Selain memiliki jumlah memori HBM3 lebih dari dua kali lipat dibandingkan H100 SXM, AMD Instinct MI300X setidaknya dalam potensi teoritis puncaknya harus melampaui kompetisi NVIDIA. Total daya papan untuk MI300X adalah 750 Watt. Hingga delapan akselerator MI300X dapat digabungkan menjadi satu server untuk menawarkan memori HBM3 1,5TB dan potensi daya komputasi 1,3x lebih besar dibandingkan NVIDIA H100 HGX.
Angka-angka yang disediakan oleh AMD tampil dalam performa yang sangat baik melawan kompetisi NVIDIA H100. Sayangnya tidak ada pengujian independen sebelum pengumuman hari ini. Yang paling membuat saya tertarik secara pribadi adalah Instinct MI300A sebagai akselerator APU untuk AI dan HPC. MI300A dengan inti CPU Zen 4, grafis AMD CDNA3, dan memori terpadu HBM3 128GB memberikan banyak potensi menarik di pusat data sebagai alternatif Xeon Max untuk CPU Sapphire Rapids dengan memori HBM2e dan menjelang kedatangan APU Intel Falcon Shores. pada tahun 2025.
MI300A memiliki 24 inti CPU Zen 4, 256MB AMD infinity Cache, delapan tumpukan HBM3 untuk bandwidth memori sekitar 5,3 TB/dtk, dan 228 unit komputasi AMD CDNA3.
Tolok ukur AMD menunjukkan kinerja HPC dan AI yang luar biasa untuk beban kerja ROCm yang mampu memanfaatkan bandwidth memori yang luar biasa dan kombinasi unit komputasi CNDA3 dan inti CPU Zen 4.
Itulah berita seputar AMD Merinci MI300X & MI300A, Mengumumkan Perangkat Lunak ROCm 6.0, semoga bermanfaat. Disadur dari Phoronix.com.