混在GPUクラスタで学習を速く｜HyperPod新機能

GPU種別ごとに接続構造が異なる混在クラスタでも、区画ごとに最適な配置方式を自動で使い分けられるため、大規模学習の性能を追加設定なしで引き出せる。UltraServer系（ml.p6e-gb200.36xlarge）にはブロック型、階層接続型（ml.p5.48xlargeなど）には木構造型が自動適用される点が実務上の判断材料になる。クラスタの拡大・縮小・ノード交換時も配置構成が自動で維持されるため、運用負荷を抑えつつ学習効率を保てる。

配置方式の割り当ては、インスタンス種別で自動的に決まる。判断材料として整理すると次のとおり。

• UltraServer系（例: ml.p6e-gb200.36xlarge）を含む区画 → ブロック型を適用
• 階層接続型（例: ml.p5.48xlarge、ml.p5e.48xlarge、ml.p5en.48xlarge）を含む区画 → ツリー型を適用
• ネットワーク配置情報を提供しないインスタンス種別の区画 → 引き続きスケジュール可能なまま

Partitions with Amazon EC2 UltraServer instance types such as ml.p6e-gb200.36xlarge use block topology, and those with hierarchical-interconnect instance types such as ml.p5.48xlarge, ml.p5e.48xlarge, and ml.p5en.48xlarge use tree topology.

この自動割り当てにより、ジョブの配置が各インスタンス種別の接続特性に沿うため、GPU間通信が速くなり、複数GPUをまたぐ集約通信（NCCL集約操作）が効率化され、学習スループットが向上する。