QualcommのNPEは運用面からディープラーニングの可能性を拡げる

QualcommのNPE (Neural Processing Engine)

QualcommのNPE(Neural Processing Engine)はQualcommのモバイル・プロセッサSnapdragonシリーズのSoC上でAIコンピューティングを可能にするフレームワークです。SDKは現在Qualcomm Developer Networkで配布されています。

SnapdragonシリーズにはCPUの他に、GPU(Graphics Processing Unit)の「Qualcomm Adreno」やDSP(Digital Signal Processor)の「Qualcomm Hexagon」など、理論的に高い演算性能を持つプロセッサが内蔵されています。NPEはこれらを効率良く利用することにより、Caffe/Caffe2やTensorFlowなどでトレーニングされたモデルによる高速かつ高効率なAIコンピューティングを可能とします。

特にQualcomm Hexagon上で実行されるAIコンピューティングは高速で高効率なようです。Snapdragon 835上でのディープ・ニューラル・ネットワーク・パフォーマンスについて、Hexagon DSPはパフォーマンスでKryo CPUの8倍、電力効率でKryoの25倍となるようです。Adreno GPUも高性能なモバイルGPUとして有名ですが、こちらはパフォーマンスでKryoの4倍、電力効率でKryoの8倍となるようです。Snapdragon上では、GPUよりもDSPの方が潜在能力は遥かに上のようです。

  • Kryo比
    • Hexagon
      パフォーマンス: 8倍
      電力効率: 25倍
    • Adreno
      パフォーマンス: 4倍
      電力効率: 8倍

DSPは通信用の信号などを処理するプロセッサです。Qualcommは世界をリードする高速モバイル通信を可能とするモバイル向けのLTEモデムを開発していますが、それに伴う信号処理にHexagon DSPが用いられているようです。SnapdragonシリーズのDSP「Qualcomm Hexagon」は非常に強力な計算資源で、それがNPEによってAIコンピューティングに使われようとしています。

アーリー・アクセスでFacebookが既存のワークロードのパフォーマンスを5倍に

このフレームワークにより、例えばカメラアプリなどで行われているスタイル変換やフィルタ、シーン検出、顔認識、オブジェクトトラッキングおよび回避、自然言語処理など、従来高性能なサーバーにルーティングされていたワークロードをデバイス上で実行出来るようになることが期待出来ます。

Facebookはオープンソースのディープラーニング・フレームワークCaffeシリーズを開発するなど、AIについて高い技術力を持つ企業の1つですが、NPEへのアーリー・アクセスを獲得し、Adreno GPUを用いて画像やライブビデオのAR機能を5倍高速化したようです。

前述の通りSnapdragonには有用な計算資源としてAdreno GPUとHexagon DSPが搭載されていますが、Facebookによるアーリー・アクセスで利用されたのはAdrenoだけだったようです。

運用面からディープラーニングの可能性を拡げる

ディープラーニングは現在研究が急速に進んでいる分野ですが、多くのモバイルデバイスに搭載されているSnapdragon SoCで高速かつ高効率な推論が可能となれば、応用の幅は大きく拡がるでしょう。

スマートフォンは人々が常に持ち歩き、カメラや各種センサーなど様々なインプットを処理しているデバイスです。その使われ方はディープラーニングでどう変わるのでしょうか。

関連記事

攻勢を強めるQualcomm、Windows on Snapdragon 835がノートPC市場に本格参入する

MicrosoftのデータセンターでQualcommのCentriq 2400が使用されることが決定

SnapdragonのTensorFlow対応で、スマートフォンは飛躍的にスマートになる。

ソース

https://techcrunch.com/2017/07/25/qualcomm-opens-its-mobile-chip-deep-learning-framework-to-all/

https://developer.qualcomm.com/software/snapdragon-neural-processing-engine

https://developer.qualcomm.com/software/hexagon-dsp-sdk/dsp-processor

One comment

Add a Comment

メールアドレスの入力は任意です。(公開されることはありません)