AI学習を空きGPUで実行｜HFに置いたまま転送料ゼロ

多くのチームは、モデルやデータセットをあるクラウドの1リージョンの保管庫（バケット）に置いている。一方で、開発・学習・配信に使えるGPUは、しばしばデータとは別のクラウドにしか空きがない。この2つが離れると、自分のデータを自分のGPUに読み込むだけで「クラウド間転送税」を払う羽目になる。従来のオブジェクトストレージはクラウドごと・リージョンごとに分かれており、別ベンダーのGPUにデータを送るには、各社のバケットにコピーを持つか、転送料を払うしかなかった。AWSでは外部へデータが出るたびにおよそ1GBあたり0.09ドルが課金される。

多くのチームは、モデルやデータセットをあるクラウドの1リージョン(地域)のバケット(保管庫)に置いている。一方で、学習や配信に使えるGPUは、しばしばデータとは別のクラウドにしか空きがない。H100やH200といった高性能GPUの確保は難しく、複数ベンダーに予約枠を分散して押さえるのが実情である。

この2つが離れると、自分のデータを自分のGPUに読み込むだけで「クラウド間転送料」を払う羽目になる。AWSでは外部へデータが出るたびにおよそ1GBあたり0.09ドルが課金される。従来のオブジェクトストレージはクラウドごと・リージョンごとに分かれており、別ベンダーのGPUにデータを送るには各社のバケットにコピーを持つか、転送料を払うしかなかった。今回の仕組みは、この「データがある場所に学習ジョブが縛られる」構造を外し、空いているGPUがあるクラウドで実行できるようにする狙いがある。