AWSはNVIDIA A100サーバーを「一度も廃止したことがない」とMatt GarmanCEOが主張

HPCワークロードを実行するユーザーからの需要は依然として高い

Amazon Web Services（AWS）のCEOであるMatt Garmanは、GPU需要が依然として供給を上回っていることもあり、同社が6年前のNVIDIA A100サーバーを現在も稼働させていると述べました。

今週初めに開催されたCisco AI Summitで、Ciscoの社長兼最高製品責任者であるJeetu Patelとの対談の中で、Garmanは次のように述べています。「需要が供給をはるかに上回っているため、古いチップにも引き続き需要があります。実際、当社はA100サーバーが完全に売り切れた状態で、一度も廃止(運用を停止)したことはありません。」

NVIDIAがA100 GPUを発表したのは2020年です。

同氏の発言は、GoogleのAI・インフラ担当副社長兼ゼネラルマネージャーであるAmin Vahdatが昨年、Andreessen HorowitzのRuntimeイベントで述べたコメントとも重なります。同氏はその場で、Googleが7世代にわたるTPUハードウェアが稼働中であり、「7年から8年経過したTPUでも利用率が100％である」と語りました。

さらに同氏は、TPU需要が供給を大幅に上回っているため、Googleは顧客の依頼を断らざるを得ない状況であるとも述べました。

AWSのGarmanCEOは、同社がA100インスタンスを提供し続けている理由として需要の高さが大きいとしつつ、顧客が古いハードウェアを使い続けたがる構造的な理由もあると指摘しました。

「現在の業界は、AI分野では浮動小数点精度を下げることで大きな性能向上を得ている」と彼は説明しています。「最近、一部のお客様と話したところ、『私のワークロードはHPCスタイルの計算なので、精度が足りないためBlackwellsには移行できず、（Intelの）Haswellsを使い続ける必要がある』と話していました。」

2025年6月、AWSはプラットフォーム上でNVIDIA H100、H200、A100 GPUへのアクセスコストを引き下げると発表しました。P4dおよびP4eインスタンスタイプにおいて、A100のオンデマンド料金は33％引き下げられました。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。