AWSがSageMaker AIの推論機能にコンテナイメージのキャッシュを追加した。新インスタンス起動時に従来333秒かかっていたイメージ取得が不要になり、帯域の取り合いが解消したことでモデルの重み取得も168秒から77秒へ縮んだ。結果としてQwen3-8Bの例では起動完了が525秒から258秒へ約51%短縮された。対応アクセラレータインスタンスでは申し込み不要・自動有効で、独自イメージの改変も要らない。キャッシュは顧客のエンドポイントごとに分離され削除時に自動消去、キャッシュが無ければECRから自動取得に切り替わるため拡張は止まらない。スパイク対応のために常時インスタンスを温存していたチームは、その待機コストを削れる方向に効く。Wins: 急なトラフィック変動を抱える推論運用チーム。Loses: 起動遅延を見越した過剰プロビジョニングを前提にしてきた運用設計。

NVIDIAのBlackwell基盤がMLPerf Training 6.0の全7項目で最速の訓練時間を記録し、最大8,192基構成で全項目を提出した唯一の基盤となった。新世代GB300 NVL72は同一規模の前世代GB200 NVL72比で最大1.6倍高速。CoreWeaveはDeepSeek-V3 671Bを2.02分、Microsoft AzureはLlama 3.1 405Bを7.07分で訓練した。MoEの事前学習タスクにDeepSeek-V3 671BとGPT-OSS-20Bが新たに追加され、ベンチの中心が大規模MoEへ寄っている点も読み取れる。自社で大規模学習を回す側にとっては、同じ予算で到達できる規模感が一段上がったことを意味する。

AWSはxAIのGrok 4.3をAmazon Bedrockで利用可能にし、xAIがモデル提供企業として加わった。推論を常時有効にし努力度を4段階で設定でき、複数手順をまたぐエージェント処理で一貫した応答を狙う設計になっている。同時にGoogle DeepMind製オープンモデルGemma 4の3種もBedrockで提供開始され、こちらはOpenAI互換エンドポイント経由のため接続先URLとモデルIDの差し替えだけで試せる。調達担当にとっての論点は性能の優劣比較より、既存の呼び出しコードを変えずに候補モデルを横並びで評価できる体制をどう作るか、に移っている。Wins: 複数モデルを比較検証したいプロダクトチーム。Loses: 単一モデルへ深く最適化しすぎた既存実装。

Ai2が開発中のLLMを繰り返し評価するための作業環境olmo-evalをHugging Faceで公開した。各スコアに標準誤差と『誤差と区別できる最小の差』を併記するため、平均値の小さな変化が本物の改善なのか誤差なのかを判別できる。調達先が増えた今日のような局面では、複数候補を並べたときの優劣が誤差の範囲かを見極める道具がそのまま意思決定の精度に効く。

AWSが医療機関向けに、生成AIをHIPAA準拠で本番運用するための7層防御アーキテクチャを公開した。単一サービスに依存せず多層で患者データを守り、1か所が壊れても情報が漏れない設計を具体的なAWS構成で示している。あわせてAWSライフサイエンス会議2026のMedTechトラックでは、Siemens Healthineersが装置接続の設定を2時間から5分に短縮した事例など、医療機器メーカー各社が本番運用のデータ基盤事例を共有した。規制業界でも『試す』段階から『本番でどう守りどう速くするか』へ議論が移っていることが分かる。日本の医療・金融など準拠要件の重い企業は、この7層を自社の規制要件に写像できるかを早めに確認したい。

アリババがアプリ組み込み型ベクトルデータベースZvecをオープンソースで公開し、GitHubで1日251スター増のペースで急上昇している。サーバーを立てずにアプリのプロセス内で意味検索が動くため、外部に送信せず端末内で完結するRAGが組める。クラウド集約型の防御アーキテクチャとは対極に、データを外に出さない軽量構成という選択肢が同じ日に存在感を増した。プライバシー制約が強い用途やエッジ寄りの実装を抱えるチームには、検証着手の価値がある。