ニュース

Sep 26, 2023

バイト

Gli algoritmi di intelligenza artificiale (AI) vengono eseguiti su sistemi più grandi e potenti

より大規模で強力なハードウェア上で実行される人工知能 (AI) アルゴリズムが脚光を浴びることが多い一方で、エッジ AI の重要性を過小評価すべきではありません。 エッジ AI は、クラウドベースのソリューションだけに依存するのではなく、スマートフォン、カメラ、センサー、その他のモノのインターネット デバイスなどのローカル デバイスに AI アルゴリズムを展開することを指します。 この分散型アプローチには多くの利点があり、幅広い用途が可能になります。

エッジ AI の主な利点の 1 つは、遅延の短縮です。 エッジ AI はデータをデバイス自体でローカルに処理することで、クラウドへの往復の必要性を排除し、応答時間が短縮されます。 このリアルタイム機能は、自動運転車、産業オートメーション、重要インフラの監視など、即時の意思決定が重要なシナリオで非常に重要です。 さらに、エッジ AI は機密データがローカル デバイス上に残るため、プライバシーとセキュリティを強化し、データ侵害のリスクを軽減し、ユーザーの機密性を確保します。

数多くの利点があるにもかかわらず、複雑な物体検出や深層学習モデルなど、よりリソースを大量に消費するアルゴリズムをエッジ デバイスで実行すると、大きな課題が生じます。 エッジ コンピューティング デバイスは、多くの場合、クラウドベースのハードウェアと比較して、計算能力、メモリ、エネルギー リソースが限られています。 効率的な運用を確保するには、アルゴリズムの精度とデバイスの制約の間のバランスを取ることが重要になります。 これらのアルゴリズムをエッジ デバイスで適切に動作させるには、モデルの圧縮、量子化、効率的な推論技術などの最適化が必要です。

画像やビデオ内のオブジェクトを理解して認識することは視覚認識の基本的なタスクであるため、オブジェクト検出アルゴリズムはさまざまな業界やアプリケーションにわたって特に重要です。 Edge Impulse の FOMO アルゴリズムは、MobileNet SSD よりも最大 30 倍高速に実行されますが、多くのユースケースで必要なメモリは 200 KB 未満です。 しかし、このように重要かつ多様な応用分野には、さらなる進歩の余地がたくさんあります。

この分野への最新の参入者は、チューリッヒ工科大学プロジェクトベース学習センターの研究者チームです。 彼らは、TinyissimoYOLO と呼ぶ、柔軟性が高く、メモリ効率が高く、超軽量の物体検出ネットワークを開発しました。 このモデルに適用された最適化により、低電力マイクロコントローラーでの実行に適しています。

TinyissimoYOLO は、人気のある YOLO アルゴリズムのアーキテクチャに基づいた畳み込みニューラル ネットワーク (CNN) です。 これは、3 x 3 カーネルと完全に接続された出力層を備えた量子化畳み込み層で構成されていました。 畳み込み層と完全接続線形層はどちらも、最新のデバイスのハードウェアおよびソフトウェア ツールチェーンで高度に最適化されており、これにより TinyissimoYOLO の速度と効率が向上します。 これは、幅広いタスクに適用できる汎用の物体検出ネットワークであり、モデル パラメーターを保存するために必要なフラッシュ メモリは 512 KB 未満です。

このモデルは、Arm Cortex-M プロセッサや AI ハードウェア アクセラレータを備えたプラットフォームなど、非常に控えめな要件を満たすほぼすべてのハードウェアにデプロイできます。 Analog Devices MAX78000、Greenwaves GAP9、Sony Spresense、Syntiant TinyML など、幅広いデバイスが TinyissimoYOLO でテストされました。

彼らの方法を評価しているときに、チームは MAX78000 ボード上で 1 秒あたり 180 フレームという驚異的な速度で物体検出を実行できることを発見しました。 そして、この優れたパフォーマンスは、推論あたりわずか 196 µJ という超低エネルギー消費によって実現されました。 もちろん、モデルがうまく機能しない場合、これは何も問題になりません。 しかし驚くべきことに、この小さなモデルは、はるかに大きな物体検出アルゴリズムと同等のパフォーマンスを発揮しました。

ただし、当然のことながら、このような偉業を達成するには、いくつかの手を抜く必要があります。 たとえば、画像の入力サイズは 88 x 88 ピクセルに制限されます。 これでは多くの用途には不十分な解像度です。 また、マルチクラス オブジェクト検出の問題はオブジェクトの数が増えるほど困難になるため、画像ごとに最大 3 つのオブジェクトがサポートされます。

これらの制限にもかかわらず、TinyissimoYOLO の多用途性、精度、最小限のハードウェア要件により、エッジで物体検出を行うことを検討しているユーザーにとって魅力的なオプションとなります。