Nvidia、生成AIに特化したDGX CloudをOracle Cloud上で提供開始

DGX CloudがNvidia AI Enterpriseソフトウェアスイートとともに利用可能に

Nvidiaのスーパーコンピュータ「DGX Cloud」がOracle Cloud Marketplaceで利用可能になりました。

これによりオラクルの利用顧客は、Nvidia AI Enterpriseソフトウェア・スイートとともに、生成AIやその他のワークロードのトレーニング用としてNvidia DGX Cloud AIスーパーコンピューティング・サービスにアクセスできるようになります。

各DGX Cloudインスタンスには、80ギガバイトのTensor Core GPUが8基搭載されており、ノードあたり合計640ギガバイトのGPUメモリが搭載されています。このプラットフォームはまた、高性能で低レイテンシのネットワーク・ファブリックを使用しているため、複数のインスタンスが1つの巨大なGPUとして機能することができます。

このクラウド・スーパーコンピュータは、NvidiaのDGXプラットフォームに基づいており、専用のハードウェアを購入し、企業のオンプレミス・データセンターに収容することができます。顧客はNvidia Base Command Platform経由でDGX Cloudにアクセスでき、代わりにAIワークロードの月額料金を支払うことが可能です。

オラクル上のDGX Cloudスーパーコンピュータは、NvidiaのAI Enterpriseソフトウェアとペアになっているため、顧客は100以上のAIフレームワークと事前にトレーニングされたモデルにアクセスすることができます。Enterpriseソフトウェアには、LLM構築用のNvidia NeMoフレームワーク、データサイエンス用のNvidia Rapids、プロダクションAI用のNvidia TensorRT-LLMとTriton Inferer Serverが含まれます。

ニューヨーク州立大学オルバニー校は、サイバーセキュリティ、気象予測、健康データ分析、創薬、次世代半導体設計などの分野でAIを活用するAIプラス・イニシアチブの基盤として、Nvidia DGX Cloud AI on Oracleを使用してきました。同大学は、独自のスーパーコンピュータを構築する一方で、このソリューションを利用しています。

「私たちは、事実上すべての学術・研究分野にAIを浸透させるという使命を加速させている」と、アルバニー校の研究・経済開発担当副学長であるThenkurussi Kesavadas氏は述べています。

「私たちは、医療、安全保障、経済競争力の向上を推進すると同時に、進化する雇用市場で活躍できる人材を育成していく」

Nvidiaは、2023年3月にDGXクラウドクラスタを提供する計画を発表し、その際、Oracleがアクセス権を持つ最初のクラウドプロバイダになると言及しました。なお将来的には、Microsoft AzureとGoogle Cloudもサービスを提供する予定となっています。

2023年5月までに、DGX H100クラスタは、オンプレミスのデータセンターにDGXシステムの導入を希望する各企業に提供されていました。

今月初め、Nvidiaがクラウドへの積極的な進出を検討しており、自らクラウド・プロバイダーとなるためにデータセンター事業者からスペースをリースする交渉を進めているのではないかという報道がありました。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。