ヘテロジニアスコンピューティングのNEW DECADE -CUDAは過去のものとなるか-

GPGPUの産声

現代的なGPGPUが産声を上げたのは、nVIDIAがGPGPUフレームワークCUDAを発表した2006年かと思います。湘南乃風の「純恋歌」がヒットした年です。

GPGPUはヘテロジニアスコンピューティングの一種です。ヘテロジニアスコンピューティングは異種のプロセッサを協調させて行う演算のことで、汎用演算用のアクセラレーターを新たに設計することなく、グラフィックス用のアクセラレーターを流用するというアイディアがGPGPUと呼ばれるものです。

GPGPUでヘテロジニアスコンピューティングは一気に陽の目を見ることになりました。低コストにて大きな演算資源を得ることが出来るGPGPUは、GPUのアクセラレーターとしての可能性を大きく広げました。CPU以外の主要な演算資源として、現在重要な役割を担っています。

CUDAの登場からの10年間、つまり2006年から2016年は、ヘテロジニアスコンピューティングにとって重要な10年でした。CPUとアクセラレーターと協調させて動かすと言う発想は、HPC界のみならず、性能が必要な全ての演算について一般的になっていきました。

ディープラーニングと言う莫大な計算需要

ディープラーニングは、大量の演算資源を持つアクセラレーターを利用したからこそ花開いたと言って良いと思います。GPGPUの進歩とディープラーニングは切っても切れない関係だと言って良いです。

と言うのも、ディープラーニングの素地となるアイディアはマシンラーニングと言って昔からありました。話題の畳込みニューラルネットワークなどはマシンラーニングの方式の一つです。計算機の進化によって、マシンラーニングが多重化出来るようになり、ディープラーニングと言う新たなジャンルに昇華しました。

ディープラーニングはそれまでAIの主流だった方法に比べて、ぶっちぎりの好成績を残しました。この経緯から、ディープラーニングは、昔ながらの方法を力技で多重化したら好成績が出ちゃって注目されている技術だと言えます。力技が可能になったのは、ハードウエアや演算環境の進化があったからこそです。

さて、ディープラーニングは力技なので、流行れば当然莫大な計算需要が発生します。以前このブログでも紹介したイギリスのベンチャー起業「GraphCore」のように、この計算需要に注目しているハード屋は沢山居ます。nVIDIAはTesla P100で、IntelはXeon Phi KNLでディープラーニング市場を狙うと公言しています。

関連記事

3000万ドルの出資を獲得し2017年に発進する英国のAI向けプロセッサベンチャー「Graph core」

「Intel Xeon Phi KNL」「nVidia Tesla P100 NVlink」についてCray社が動き出した

NEW DECADEへ

2016年から2026年までの10年間(DECADE)はヘテロジニアスコンピューティングにとって重要な10年間となるでしょう。先ほど紹介したGraphCore社のような新勢力も生まれていますし、AMD社のROCmフレームワークやARM社の高機能SIMD命令SVEなど、x86以外のコンピューティング技術が散見されています。IBM POWER8の躍進も期待され、CPU単体がCPUとGPUの組み合わせになった変化とは別の変化が起きています。

POWER+GPUは既にGoogleのサーバーへの採用が決まっていますし、Microsoftはサーチエンジンbingのサーバーにx86+FPGAを採用しています。中国のスーパーコンピュータープロジェクト天河はx86+ARMを次世代のシステムに採用するようです。

関連記事

AMDはCUDAに対抗出来るか、「ROCm1.3」発表

Intel一強からプロセッサ戦国時代へ、Intelはこの先プロセッサ市場のシェアを維持出来るのか

IBMはnVidiaと協調してディープラーニーング向けコンピューター市場を狙う、NVlinkでnVidiaのGPUと繋がるPower8搭載サーバー登場

中国のPhytium Technologyの64コアARMベースサーバー向けCPU「FT-2000/64」を発表。中国は革新的な企業だらけだ

ソフトなハードウエア「FPGA」とハードウエア記述言語のオープンソースプロジェクト化

また日本の理研が所有する菖蒲に採用されているのは、x86+RISCメニーコアです。RISCメニーコアアクセラレータも無視出来ない実績を持っています。

関連記事

神威太湖之光の躍進はRISCウルトラメニーコアの時代の幕を開けてしまったのか

2016年から2026年にコンピューティングがどのように変わるのかは正直なところ予想が出来ませんが、現在のコンピューティングとは全く違うものになっている、ということは確実に言えます。CPU+GPUのようなヘテロジニアス環境は最早当たり前になり、学生が気軽にCUDAを通してハイパフォーマンスなコンピューティングに触るような時代になりました。コンピューティングのクラウド化が進み、一時的に大きなパフォーマンスが欲しい場合も、気軽にAWSなどにタスクを投げられます。組み込み向けだったはずのARMプロセッサが、タッチセンサー付きの高度なGUIを備えたコンピューターのプロセッサに採用されるまでになり、そのコンピューターを誰もが持っています。

全て10年前は考えもしなかったことです。ほとんどx86とPC/AT互換機が支配していた時代からの10年にそれだけ豊かな変化があったのですから、新しいプロセッサが乱立している現在からの10年は、もしかしたらIT史上で最も面白い10年になるかもしれません。

Add a Comment

メールアドレスの入力は任意です。(公開されることはありません)