Insinyur Intel pada hari Rabu merilis OpenVINO 2023.3 sebagai pembaruan besar terbaru untuk perangkat AI sumber terbuka terkemuka ini. OpenVINO 2023.3 menghadirkan “dukungan penuh” untuk prosesor Emerald Rapids dan Meteor Lake baru, peningkatan dukungan perangkat keras Intel lainnya, dan terus memperluas dukungan seputar AI generatif (GenAI) dan model bahasa besar (LLM).
OpenVINO 2023.3 meluncurkan repositori OpenVINO Gen AI untuk mendemonstrasikan sampel pipeline C/C++ asli untuk model bahasa besar. OpenVINO juga telah memvalidasi model tambahan termasuk Mistral, Zephyr, ChatGLM3, dan lainnya. Torch.compile kini juga terintegrasi penuh dengan OpenVINO.
Untuk memperluas dukungan Model Bahasa Besar, kini terdapat dukungan format model kompresi berat INT4 pada CPU Intel Xeon dan Intel Core serta Intel iGPU. Ada juga peningkatan kinerja untuk LLM berbasis transformator pada CPU dan GPU, pengoptimalan yang lebih mudah untuk model Hugging Face, dan banyak lagi.
Rilis OpenVINO 2023.3 kini juga memiliki dukungan penuh untuk prosesor “Emerald Rapids” Xeon Scalable Generasi ke-5, pengoptimalan lebih lanjut untuk prosesor Intel Core Ultra “Meteor Lake”, peningkatan kinerja pada platform ARM, API JavaScript pratinjau, dan peningkatan lainnya.
Unduhan dan detail lebih lanjut tentang rilis besar OpenVINO 2023.3 melalui GitHub.
Itulah berita seputar OpenVINO 2023.3 Memberikan Dukungan Penuh Untuk Intel Emerald Rapids, GenAI & LLM yang Lebih Luas, semoga bermanfaat. Disadur dari Phoronix.com.