SiMa.ai(以降SiMa)はGPU(グラフィックス処理ユニット)を提供するα社の性能に匹敵する、エッジでのAIに強みを持ったデバイスです。そんなSiMaのMLSoC(Machine Learning System-on-Chip)を実際に使ってみたいという声も上がっています。今回は、α社のGPUで動作していたモデルをSiMaに移植し、実際に動かす方法をご紹介いたします。
移植の手順は以下の通りです。
なお、今回デモ動画結果は以下です。
α社動画
SiMa動画
開発・評価を始める前に必要な準備などを記載いたします。
準備するもの
移植作業の全体像
SiMaでの開発は、主にホストマシン上でAI/MLアプリケーションを作成します。
ホストマシンでは、API、フレームワーク、ライブラリ、CLIツールなどを活用して、アプリケーションの開発、デプロイ、デバッグなどのすべての作業を行います。
アプリケーションを開発した後は、ホストマシンからSiMaデバイスへデプロイし、実際にSiMa上でアプリケーションを動作させます。以下が基本的な開発の流れです。
開発キットファームウェアを最新バージョンにアップデートします。
ホストマシンの環境を構築するために、Paletteと呼ばれるSiMaが提供するアプリケーションをインストールします。
このアプリケーションは、API、フレームワーク、ライブラリ、CLI(Command Line Interface)ツールへのアクセスからAI/MLアプリケーションの開発、デプロイ、デバッグを一貫して行えるものです。
また、PaletteはDockerコンテナ内で動作しますので、Docker環境の構築も必要になります。
Paletteのインストールのために以下のインストール要件をすべて満たす必要がありますので、開発前に必ずご確認ください。
本章はLinuXでの操作を説明いたします。
インストール要件(2024/11/15現在)
要件の種類 | 詳細 |
---|---|
ホストマシン |
|
OS |
|
Dockerエンジン |
|
Python |
|
Open Port |
|
ファイアーウォールの設定 |
|
Yolov7を活用して人の動きを追跡し滞在状況をヒートマップ分析するシステムをホストマシンを介してSiMaで実行していきます。
Gstreamerというマルチメディア系の処理を簡単に実現するためのフレームワークを使用します。
デバイスへの接続、ビルド※1、デプロイ※2をSiMaの提供するMPKツールというコマンドセットで行います。
(※1)ビルド:ソースコードを実行ファイルに変換すること
(※2)デプロイ:実行ファイルをサーバー上に配置すること
次の章では開発キットとホストマシンの開発環境構築をご紹介いたします。