Bulan lalu Qualcomm menerbitkan tambalan yang diperbarui untuk driver kernel Cloud AI 100 mereka untuk mendukung akselerator inferensi ini. Insinyur Qualcomm mengatakan pada saat itu bahwa driver ruang pengguna dan kompiler terkait mereka akan segera diterbitkan. Itu berhasil dan bagian ruang pengguna dari tumpukan inferensi AI sumber terbuka ini baru-baru ini diterbitkan.
Qualcomm mengeluarkan driver dan kompiler mode pengguna QAIC mereka untuk berinteraksi dengan driver kernel yang sedang dalam proses yang bekerja menuju subsistem akselerator "akselerasi" kernel yang baru.
Via repositori GitHub ini adalah kit driver / perangkat lunak mode pengguna untuk Cloud AI 100 dan repositori ini memiliki kompiler. Ini sangat penting untuk mendapatkan driver akselerator kernel utama karena klien ruang pengguna terbuka untuk berinteraksi dengan driver kernel adalah wajib. Pencapaian ini serupa dengan Intel Habana Labs yang selama beberapa tahun juga telah menyediakan kernel sumber terbuka penuh dan tumpukan ruang pengguna untuk perangkat keras AI mereka.
Kedua driver mode pengguna Qualcomm dan kompiler diterbitkan di bawah lisensi BSD-3-Clause-Clear. Kit perangkat lunak juga menyertakan beberapa contoh aplikasi, termasuk alat untuk meminta kartu QAIC 100 dan untuk menyebarkan aplikasi ke perangkat keras.
Qualcomm Cloud AI 100 menghadirkan hingga 16 inti AI pada proses 7nm, memori sistem LPDDR4x hingga 32GB dalam konfigurasi quad channel, dan dirancang untuk inferensi AI dari cloud hingga edge.
Sekarang setelah kode ruang-pengguna open-source tersedia, kita akan melihat apakah itu membantu segera mendapatkan driver kernel akselerator "qaic".
Itulah berita seputar Qualcomm Menerbitkan Compiler Open-Source & User-Space Untuk Cloud AI Accelerator Mereka, semoga bermanfaat. Disadur dari Phoronix.com.Artikel Diperbarui pada: March 16, 2023
Kontributor: Syauqi Wiryahasana
Model: Haifa Manik Intani
