Bulan lalu untuk konferensi Visi mereka, Intel mengumumkan akselerator Habana Labs Gaudi2. Gaudi2 adalah penawaran generasi kedua dari Habana Labs milik Intel untuk pelatihan dan inferensi. Dukungan driver kernel Linux open-source untuk Gaudi2 sekarang sedang berlangsung bersama dengan dukungan tumpukan perangkat lunak ruang pengguna open-source yang menyertainya.
Intel memperkenalkan Gaudi2 sebagai memberikan kinerja pelatihan AI dua kali lebih baik daripada solusi NVIDIA A100. Gaudi2 diproduksi pada proses 7nm daripada 16nm dengan Gaudi asli, peningkatan 3x untuk TPC, memori HBM2e 96GB naik dari 32GB HBM2, cache SRAM 48MB yang dua kali lipat dari aslinya, 24 x 100 GbE, dan memiliki 600 Watt TDP (350 Watt untuk aslinya).
Lebih dari satu bulan sejak mengumumkan Habana Labs Gaudi2, pekerjaan driver open-source sedang berjalan keluar secara publik. Dukungan Gaudi2 dibangun dari driver dalam kernel “habanalabs” yang ada yang mendukung akselerator Gaudi dan Goya yang ada.
Pelajari lebih lanjut tentang arsitektur Gaudi2 melalui whitepaper.
Gaudi2 Habana.ai dari perspektif pengemudi cukup dekat dengan Gaudi asli dan menegaskan kembali arsitektur keseluruhan yang sama. Mengaktifkan Gaudi2 adalah sekitar 158k baris kode kernel baru, tetapi sebagian besar adalah file header — sama seperti kita terbiasa dengan file header besar dengan driver kernel AMDGPU. File header baru sejauh ini mewakili sebagian besar churn kode untuk pengaktifan Gaudi2 untuk driver arus utama ini.
Selain pekerjaan driver kernel, hari ini juga diterbitkan TPC_LLVM 1.1 sebagai rilis terbaru dari kompiler berbasis LLVM open-source mereka untuk menargetkan akselerator Habana Labs. TPC_LLVM 1.1 menambahkan dukungan kompiler untuk Gaudi2 serta ASIC Greco yang baru. Mereka juga bekerja untuk memperbarui SynapseAI Core open-source mereka untuk Gaudi2 juga.
Lihat seri tambalan ini untuk kode driver kernel Gaudi2 yang baru. Mengingat perkembangannya dari arsitektur Gaudi yang sama, semoga tinjauan kode akan berjalan lancar dan kita dapat melihat dukungan Intel Gaudi2 ini ditambahkan segera setelah siklus v5.20 jika semuanya berjalan dengan baik.
Intel Vision 2022 juga melihat pengumuman Habana Labs Greco sebagai kartu yang dioptimalkan untuk efisiensi inferensi pembelajaran mendalam. Greco adalah peningkatan besar atas Goya. Selain dukungan kompiler TPC_LLVM, kami belum melihat dukungan driver kernel Habana Labs untuk Greco tetapi mungkin itu akan segera keluar juga.
Itulah berita seputar Intel Mulai Mempublikasikan Kode Driver Habana Labs Gaudi2 Linux, semoga bermanfaat. Disadur dari Phoronix.com.