Microsoft Rilis KubeAI Nucleus, Aplikasi Open-Source untuk Solusi AI di Edge

Microsoft Perkenalkan KAN untuk Mempermudah Implementasi Computer Vision di Edge

Microsoft CEO Satya Nadella memperkenalkan konsep “intelligent edge” yang memungkinkan alat dan layanan native cloud untuk digunakan di perangkat dalam jaringan. Untuk mengatasi tantangan penggunaan computer vision pada edge network, Microsoft telah menyediakan alat untuk memcontainerize Azure Cognitive Services dan menyampaikannya melalui Azure IoT Edge. Namun, masih diperlukan solusi untuk implementasi edge khusus.

Containers telah menjadi metode implementasi yang ideal untuk software edge, dengan Kubernetes dan service meshes menawarkan platform agnostik untuk deployment code. Oleh karena itu, proyek KAN (KubeAI Application Nexus) dibuat sebagai solusi open-source yang diselenggarakan di GitHub.

KAN bertujuan untuk menyederhanakan pengembangan dan manajemen aplikasi machine learning pada Kubernetes secara massal. Ini menyediakan lingkungan untuk menjalankan code pada hardware edge, mengumpulkan data dari perangkat yang terhubung secara lokal, dan memanfaatkan model machine learning yang telah dilatih sebelumnya untuk wawasan. KAN juga menawarkan portal monitoring dan manajemen serta lingkungan pengembangan low-code untuk sistem Kubernetes on-premises atau berbasis cloud.

Proses Pembuatan Aplikasi Machine Learning dengan KAN

Pembuatan aplikasi machine learning dengan KAN melibatkan pemilihan arsitektur perangkat dan teknologi akselerasi. KAN merekomendasikan penggunaan perangkat yang dipercepat, seperti GPU atau NPU dari NVIDIA dan Intel, untuk aplikasi edge kritis.

KAN menawarkan alat desain grafis berbasis node untuk membangun “keterampilan AI” yang menghubungkan input kamera ke model dan mentransformasi/filtering output. Data dapat diekspor ke aplikasi dan layanan lain, memungkinkan alur kerja yang disesuaikan.

Setelah aplikasi dibangun dan diuji, KAN menyederhanakan pengemasan dan deployment ke perangkat target melalui portal. Meskipun saat ini terbatas pada deployment ke satu perangkat pada satu waktu, KAN bertujuan untuk mendukung deployment ke beberapa perangkat di masa depan. Hal ini memudahkan pengiriman aplikasi machine learning ke sistem Kubernetes atau host kontainer runtime Azure IoT Edge milik Microsoft, menyediakan pandangan terpusat dari semua deployment.

KAN menarik inspirasi dari solusi Azure Percept yang dibatalkan, bertujuan untuk menyederhanakan implementasi edge AI dengan alat low-code. Dengan mengadopsi pendekatan pengembangan yang serupa dengan pengalaman pengembang Percept, KAN menggabungkan konsep tooling IoT dengan fitur dari Power Platform Microsoft, meningkatkan kemudahan dalam membangun dan mendeploy aplikasi machine learning.

KAN mempermudah pengembangan dan deployment aplikasi machine learning untuk computer vision di edge network. Dengan fokus pada Kubernetes dan dukungan untuk berbagai perangkat komputasi, KAN menyediakan platform untuk implementasi edge AI eksperimental dan skala besar. Dengan menyederhanakan prosesnya, KAN membuka kemungkinan untuk menyelesaikan tantangan melalui edge machine learning dengan efisien dan efektif.

Disarikan dari: Sumber