Amazonの小売事業が社内のGPU容量不足を解消

「Project Greenland」の内情に迫る

Amazonの小売事業が、GPUへのアクセス不足による制約を受けなくなりました。

Business Insider（BI）の”trove of Amazon documents” を引用すると、Amazonはクラウドコンピューティング部門であるAmazon Web Service（AWS）がGPUの主要な購入者であるにもかかわらず、2024年を通じて計算能力の不足に苦しんでいたようです。

その後、同社は「Project Greenland」イニシアチブを通じてこれを解決しました。

AWSが運用するGPUの正確な数は不明ですが、2024年11月、LessWrongはAmazonの「Nvidia H100相当のGPU」の数を25万から40万と推定し、2025年末までに130万から160万に増加すると予想しました。LessWrongはまた、Amazonが2025年に約36万台のNvidia GB200を購入すると推定しています。

NvidiaやAMDなどから購入したGPU以外にも、AWSは独自のTrainium AIチップを開発しています。同社が何個のTrainiumチップを保有しているかは不明ですが、2024年12月にAnthropic向けに 「数十万個のTrainiumチップ」を搭載するTrainium2 UltraServersのクラスタを開発していると発表しています。

クラウド部門がこれほど大量のAIコンピュートを有しているにもかかわらず、小売部門は以前、必要なGPUへのアクセスに苦労していました。

Insiderによると、2024年初頭、Amazonの小売部門の一部の従業員がGPUを確保できないまま数ヶ月が経過し、eコマースや物流業務を含む部門全体のプロジェクト立ち上げが妨げられたとのことです。

その結果、Amazonは2024年7月、GPU供給をより適切に管理・配分するための「Project Greenland」を立ち上げました。

BIが閲覧した文書の1つでは、Project Greenlandは「チーム間でGPU容量を共有し、利用率を最大化するための集中型GPUオーケストレーションプラットフォーム」と説明されています。

このプラットフォームは、イニシアチブごとのGPU使用量を追跡し、アイドル状態のサーバーを共有し、より緊急性の高いプロジェクトのためにチップを「取り戻す」ことを可能にします。

Amazonのガイドラインの1つは、「GPUは、先着順で割り当てるには価値が高すぎる」とし、「むしろ配分は、常識的な考慮事項と重ねられたROIに基づいて決定されるべきであり、当社のフリーキャッシュフローの長期的な成長に備えるべきです。」と記載しています。

AmazonはGPUの割り当てについて、提供されるデータの完全性やGPUあたりの金銭的利益など、さまざまな要素で優先順位をつけ、ランク付けしているとBIは述べています。AIプロジェクトは、開発が承認され、準備が整っており、期待される利益のタイムラインが提示されていなければなりません。

Amazonが他の取り組みにより大きな価値があると判断した場合、すでに承認されていてもプロジェクトからGPUを回収することになります。2025年現在、AmazonからのGPUキャパシティリクエストはすべてグリーンランドを経由することが義務付けられています。

小売単位では、2024年後半を通じて1,000台以上のP5インスタンスが不足していました。各P5インスタンスは8個のNvidia H100 GPUで構成されています。12月の文書によると、今年の初めまでには「若干」改善する見込みだとのことでした。

さらに、AWSのAIチップTrainiumは2025年末までに需要をサポートすることが期待されていましたが、「すぐには 」できませんでした。

にもかかわらず、Amazonの広報担当者は現在、BIに対してこれらの予測は時代遅れであり、GPU不足はもはやないと述べています。

広報担当者はBIに対し、次のように語りました。「Amazonは、我々の小売ビジネスと会社全体の他の顧客のために革新を続けるために、十分なGPU容量を持っています。AWSは、生成AIのイノベーションが、Amazonを含むすべての顧客のクラウドコンピューティングサービスの急速な普及を促進していることを早くから認識しており、顧客のGPUニーズの高まりを迅速に評価し、イノベーションを推進するために必要な容量を提供するための措置を講じています。」

内部文書によると、Amazonの小売部門は160以上のAIを活用した取り組みを進めているようです。同社は2024年時点で、AI投資が「間接的に」25億ドルの営業プロジェクトに貢献し、6億7000万ドルの変動費削減に寄与したと推定しています。

同社の小売部門は今年、AWSに約57億ドル（2024年の45億ドルから増加）を費やす見込みです。

2025年2月に行われたAmazonの2024年第4四半期決算説明会で、同社のAndy Jassy CEO兼社長は、同社がキャパシティにいくつかの制約を経験しているとし、それは「サードパーティパートナーからのチップ、電力制約、マザーボードのようなサプライチェーンの形でもたらされる」と説明しました。

また、「これらの制約は2025年後半には緩和され始めると予測しています。そして、申し上げたように、現在かなり良いペースで成長しているにもかかわらず、もっと速く成長できると思います」と述べました。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。