DARPAが次世代高速NICへの研究資金提供を検討

分散システムにおける機械学習ワークロードの100倍高速化に期待

米国国防総省高等研究計画局(DAPRA)は、次世代高速ネットワークインターフェースカード(FastNIC)イニシアチブの開始を予定しており、近い将来、次世代ネットワークサブシステムの開発を民間企業に要請する可能性があります。

「期待されている」FastNIC BAA(Broad Agency Announcement) – 民間企業からの研究提案を求める政府からの通知 – に先立ち、DARPAはプロポーザーズ・デー(提案企業向け説明会)を開催する予定です。

7月10日のこのイベントでは、 提案協力企業に対して、イニシアチブの目的に関する情報が提供されます。参加は先着160社限定で、登録申し込みは7月8日の東部標準時午前9:00に締め切られます。各企業につき2名までの代表者のみが参加許可されます。

In the NIC of time

Federal Business Opportunities Webサイト( 米連邦政府の補助金情報ポータルサイト)の文書で、DARPAはFastNICプログラムの理由をこう概説しています。

「現在のネットワークサブシステムは、マルチプロセッササーバーとそれらを接続するネットワークリンク間のボトルネックになっています。

たとえば、1本のファイバは毎秒約100テラビットのデータを伝送でき、今日のマルチコアマルチプロセッサ、GPU搭載サーバ、および類似の処理ノードでも、(まとめて)同等の速度でデータを処理できます。

しかしながら、ネットワークスタックは、ネットワークインタフェースカードとシステムソフトウェアによって、毎秒10〜100ギガビットに制限されます。

旧式の遅いNIC
– Wikimedia Commons/Jana.Wiki

現在では、高性能コンピューティングを実現する為に、「並列処理」がクロック周波数の上昇に取って代わったため、このボトルネックは劇的に悪化しました。

このボトルネックは、複数の市場でさらなる技術の進歩を追求する商業的動機のために対処されないままになっています。

ネットワークとマルチコアマルチプロセッサの別々の進化、メモリテクノロジ、メモリのコピー、共有リソースの シリアル化 による競合、および不十分なアプリケーション設計のすべてが、アプリケーションのスループットを制限します。

プロセッサのスループットの真のボトルネックは、デバイスをイーサネット等でネットワークに接続するためのネットワークインタフェースです。これにより、プロセッサのデータ取り込みが大幅に制限されてしまいます。

このネットワークインタフェースのボトルネックは、計算ノード間の重要な通信を必要とする分散コンピューティングでは特に問題となります。

ディープ ニューラルネットワーク の 機械学習 (注:狭義には4層以上の ディープニューラルネットワーク による機械学習を ディープラーニング と呼ばれる)は、この種の計算の典型です。機械学習の研究の大部分は、ネットワークインターフェースのボトルネックを最小限に抑える方法を調査しています。

FastNICは、実装、統合、および検証を通じて、機械学習分類の分散学習などのアプリケーションを100倍高速化します。 目的は、コンピューティングとネットワークサブシステム間のパフォーマンスの大きな不一致を克服することです。」

公開されている議題項目は、プログラムマネージャであるジョナサン・スミス博士により挙げられています。彼のDARPA文書では、DARPAプログラムマネージャとして、スミス博士はサイバーセキュリティ、ネットワーキング、および 分散コンピューティング におけるプログラムの開発と実行を目指していたという。

スミス博士は2004年から2006年までDARPAの情報処理技術局(IPTO)でプログラムマネージャを務め、エッジネットワークテクノロジにおける状況認識プロトコル(SAPIENT)、適応型認知強化無線チーム(ACERT)及び スペクトラムの優位性(BOSS) 含むプログラムの開発と実行を行っていました。」

ARPANET ( アーパネット )、インターネット、そして数多くの重要なスーパーコンピューティングプロジェクトに資金を供給したDARPAは、米国が特に軍事分野において二​​度と他国の科学的業績に敗北しないことを目的として、旧ソ連がスプートニク衛星を突然打ち上げたことを契機に設立されました。

他のプログラムでも、DARPAは現在、意欲的なElectronics Resurgence Initiative( ERI:国内の半導体製造分野の新技術の開発に向けた15億ドル規模のプロジェクト)に資金を供給しています。

Data Center Dynamics

原文はこちら