Teslaが世界第7位のGPUスパコンを保有、スタッフが主張

テスラは現在、GPU数で世界第7位のグラフィックス・スーパーコンピュータを保有していると主張しています。

同社のAI・オートパイロット担当のティム・ザマン氏は、先週金曜日に次のようにツイートしました。「我々(テスラ)は最近、GPUスパコンを7,360基のA-100(80GB)GPUにアップグレードし、GPU数でトップ7になった」

Nvidia製のA100 GPUは、各プロセッサに80GBのグラフィックメモリを搭載し、毎秒2テラバイトのメモリ帯域幅を誇ります。

このスパコンは、「Dojo」と命名されたプロジェクトの前身となるクラスタです。2021年のリリース当時、これはシステム全体で5,760基のNvidia A100を搭載し、世界で5番目にパワフルなスーパーコンピュータであるとテスラは主張していました。今回のアップグレードでは、GPUが1,600基追加されていますが、同社自身での推定順位は2つ下がっています。

Dojoは2019年当初、映像処理向けの「超パワフルなトレーニングコンピュータ」であると発表されていました。CEOのイーロン・マスク氏は2020年に「テスラは、膨大な量の映像データを処理するためのDojoという（ニューラルネットワーク）トレーニングコンピュータの開発を行っている。これは野獣だ! …事実上FP32で真に有用なエクサフロップマシンだ」というツイートを投稿していました。

前身となるクラスタがNvidia A100チップに依存しているのに対し、Dojoはテスラ独自のD1チップで構成される予定です。D1チップは、FP32、BFP16（bfloat16）、CFP8（configurable FP8）という新フォーマットに対応する予定です。また、機械学習のワークロードに最適化され、354基の「トレーニングノード」で構成される予定です。各チップの大きさはわずか645平方ミリメートルで、500億個のトランジスタが搭載されます。

スーパーコンピュータ「Dojo」の更なる詳細や、ローンチ予定日についてはまだ発表されていません。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。