AWSがNvidia Grace Blackwell GPUを搭載したUltraServersを発売

インスタンスの一般提供を開始

Amazon Web Services（AWS）は、Nvidia GB200 NVL72システムをベースにした、UltraServersの一般提供を開始しました。

2024年12月に提供が開始されたUltraServersは4つの接続されたインスタンスで構成され、当初はAWSのTranium2チップで提供され、各UltraServerは64チップを提供していました。

「Amazon EC2 P6e-GB200 UltraServers」と名付けられた新しいUltraServerインスタンスは、1つのNVLinkドメイン内に36個または72個のNvidia Blackwell GPUを搭載し、最大360ペタフロップスのFP8コンピュートと合計13.4TBの高帯域幅メモリ（HBM3e）を提供できます。

UltraServersは、さらにAWS Nitro Systemと接続することができ、最大数万GPUまで拡張可能です。

同社によると、このインスタンスタイプは、1兆パラメーター規模の「フロンティアモデル」のトレーニングや推論など、「最も計算量とメモリー負荷の高いAIワークロード」に最適とのことです。

このインスタンスは現在、米国東部（バージニア北部）リージョンの延長として、ダラスのローカルゾーンで利用可能です。

AWSは最近、Nvidia H100およびH200チップを搭載した、インスタンスのコストを大幅に削減し、一部のケースでは最大45%のコストを削減しました。

2025年5月にNvidia B200 GPU、2023年7月にH100を一般利用を可能にしました。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。