OpenVINO atau OpenVINO Toolkit adalah serangkaian toolkit yang dibuat oleh Intel sebagai model framework dan deployment ke Inference Engine ke hardware-hardware AI yang dibuat oleh Intel ke depan. Sifat dari OpenVINO ini gratis dan opensource. OpenVINO dirilis 5 tahun lalu, 16 Mei 2018 dan terakhir di rilis tanggal September 2023 dengan kode rilis versi 2023.1. OpenVINO ini ditulis dalam bahasa C++ dan bahasa Python. OpenVINO bisa digunakan dan diinstall di Windows, Linux dan MacOS, termasuk Raspberry Pi.
Versi OpenVINO
OpenVINO dirilis dalam dua versi sebenarnya, yaitu OpenVINO toolkit open-source version dan versi resmi OpenVINO yang didistribusikan oleh Intel. Lisensi umum dari OpenVINO sendiri adalah Apache License version 2.0.
Kelebihan OpenVINO
Kelebihan umum dari OpenVINO Toolkit ini adalah cukup tulis satu kali kode deep learning deployment untuk bisa deploy dimanapun platform yang akan dirilis Intel, mulai dari CPU, integrated GPU, Intel Movidius VPU dan FPGA Intel.
Cara Kerja OpenVINO
Secara umum Pipeline OpenVINO terdiri dari dua bagian: menghasilkan file IR (Intermediate Representation) melalui Model Optimizer menggunakan model terlatih kalian atau yang sudah ada secara publik, dan menjalankan inferensi pada Inference Engine pada plugin yang ditentukan (CPU, Intel Processor Graphics, VPU, GNA, plugin Multi-Device, plugin Heterogen).
Model Optimizer toolkit adalah alat lintas platform yang mengubah model terlatih dari kerangka kerja asli ke format OpenVINO (IR) dan mengoptimalkannya untuk inferensi di masa depan pada perangkat yang didukung. Sebagai hasilnya, Model Optimizer menghasilkan dua file: *.bin dan *.xml, yang berisi bobot dan struktur model masing-masing.
Inference Engine toolkit adalah perpustakaan C++ untuk melakukan inferensi input pada perangkat dan mendapatkan hasil. Untuk lebih memahami API OpenVINO, terdapat banyak sampel yang menunjukkan cara kerja dengan OpenVINO.
OpenVINO memiliki berbagai jenis sampel: klasifikasi, deteksi objek, transfer gaya, pengenalan suara, dll. Mungkin untuk mencoba inferensi pada model-model publik. Ada berbagai model untuk tugas-tugas seperti:
- klasifikasi
- segmentasi
- deteksi objek
- pengenalan wajah
- estimasi posisi manusia
- estimasi kedalaman monokuler
- pengisian gambar
- transfer gaya
- pengenalan tindakan
- pewarnaan
Semua model ini tersedia untuk tujuan pembelajaran atau pengembangan perangkat lunak deep learning. Open Model Zoo dilisensikan di bawah Apache License versi 2.0.
Bersama dengan komponen utama optimisasi model dan waktu runtime dalam toolkit Intel® Distribution of OpenVINO, toolkit ini juga mencakup antarmuka web yang ramah pengguna yang disebut Deep Learning Workbench untuk membantu dalam analisis dan eksperimen model; alat bernama Post-Training Optimization Tool untuk mempercepat inferensi dengan mengonversi model menjadi presisi rendah dan yang tidak memerlukan pelatihan ulang (misalnya, kuantisasi pasca-pelatihan); dan tambahan add-on, seperti Deep Learning Streamer untuk membantu interoperabilitas pipa analitik streaming, OpenVINO Model Server untuk memungkinkan skalabilitas melalui microservice pelayanan, Ekstensi Pelatihan seperti Neural Network Compression Framework, dan Computer Vision Annotation Tool, alat anotasi video dan gambar interaktif online.
Framework dan Format yang didukung dan dipakai dalam OpenVINO ini, antara lain:
- Caffe
- TensorFlow
- MXNet
- Kaldi
- ONNX
dan platform lain seperti PyTorch, Caffe2, PaddlePaddle yang bisa dibuat serialized ke ONNX
Website dan Dokumentasi
- Website resmi: https://openvino.ai
- Repository: https://github.com/openvinotoolkit/openvino
- Dokumentasi: https://docs.openvino.ai