Intel telah merilis OpenVINO 2023.2 sebagai versi terbaru dari toolkit sumber terbuka mereka untuk mengoptimalkan dan menerapkan inferensi AI. OpenVINO melanjutkan upayanya yang tiada henti untuk memaksimalkan kinerja dan efisiensi pembelajaran mendalam sambil terus memperluas dukungan model dan fiturnya.
Dengan rilis OpenVINO 2023.2, mereka terus memperluas cakupan dan integrasi AI generatifnya. Rilis baru ini dapat menangani model yang digunakan untuk chatbot, mengikuti instruksi, pembuatan kode, dan banyak lagi. Di antara model yang kini didukung adalah LLaVA, chatGLM, Bark, dan LCM. Ada juga peningkatan dukungan untuk model PyTorch serta model Hugging Face.
OpenVINO 2023.2 juga memiliki inferensi yang dipercepat untuk model bahasa besar (LLM) dengan kompresi bobot model Int8, dukungan model yang diperluas untuk bentuk dinamis untuk kinerja GPU Intel yang lebih baik, dukungan pratinjau untuk format model Int4 pada CPU dan GPU Intel, dan kemajuan dukungan LLM lainnya.
Rilis OpenVINO 2023.2 kini juga tersedia melalui manajer paket Conan dan telah meningkatkan kinerja untuk menjalankan OpenVINO pada prosesor ARM melalui pengaktifan dukungan format model FP16.
Unduhan dan detail lebih lanjut tentang rilis OpenVINO 2023.2 pagi ini melalui GitHub.
Itulah berita seputar OpenVINO 2023.2 Dirilis Dengan Cakupan AI yang Lebih Generatif & Dukungan LLM yang Lebih Luas, semoga bermanfaat. Disadur dari Phoronix.com.