スケーリング則(モデルサイズ、データ量、計算量と性能の関係を表す経験則)は、近年のLLM開発で事前学習の投資判断を支える基盤になっている。しかし、この曲線を精度よく描くには、複数のモデルサイズ・データ量の組み合わせで実際に学習を走らせ、損失を測る必要があり、計算コストが大きいという課題がある。
2026年4月27日にarXivで公開された『Spend Less, Fit Better: Budget-Efficient Scaling Law Fitting via Active Experiment Selection』は、この課題に能動的実験選択(active experiment selection)の枠組みで応える論文である。次にどの条件で実験を行えばフィッティング誤差を最も減らせるかを逐次的に選ぶことで、総実験数を抑えながら予測曲線の品質を維持するアプローチを取る。
実装コードは『PlanarG/active-sl』としてGitHubに公開されており、第三者による追試や自社ワークフローへの組み込みが可能な状態にある。これは、スケーリング則の知見を事前学習計画に反映したいが、総当たりスイープのGPU予算を確保しにくい中規模の研究現場にとって実用的な選択肢となる。
一方で、本稿執筆時点でSNSでの言及は限定的であり、採用事例やベンチマーク比較が広く共有されている段階ではない。読者としては、自社の典型的なスイープ設定と本手法の選択戦略を同一条件で比較し、削減される実験数と残差の両方を記録した上で採否を判断する段階にある。