Huntington銀行は4億件超の文書から個人情報を自動で黒塗りし、1日約1000万件のペースで処理した。数年と見積もった作業を数か月に短縮し、費用は当初の約5%、黒塗り精度は95%以上を達成した。中核は文字認識のAmazon Textractと処理を順序立てて動かすAWS Step Functions。注目すべきは精度や速度より、オンプレミスとクラウド間のデータ移動をAWS DataSyncと専用線Direct Connectで暗号化し、保管中・通信中とも暗号化してPCI DSSを満たした点だ。「AIが処理できる」ではなく「規制を満たして処理した」という証明が、金融・医療など規制業界の調達判断を一段進める。

Mistral OCR 4は抽出テキストに加え、各要素の位置を示す枠・種別分類・確信度を返し、1コンテナで自社環境内に完結する。つまり文書を社外に出さずに大量処理できる。Huntingtonの「暗号化と専用線で越境を制御する」アプローチと、Mistralの「そもそも外に出さない自己ホスト」アプローチは、いずれも同じ要請——機密文書を扱う現場のデータ越境懸念をどう消すか——に対する別解になっている。OCRの確信度が返る点は、黒塗り精度95%超のような品質管理を自前で組む際の判定材料になる。

OpenAIとBroadcomが推論特化の独自チップ「Jalapeño」を発表した。LLMの利用時処理に最適化し、性能・効率・拡張性の向上を狙う。両社が進める10ギガワット規模の計算基盤展開の一部だ。学習ではなく推論に的を絞った自社設計という選択は、利用が増えるほど効いてくる単価の問題を、汎用GPU調達ではなく専用ハードで解こうとする動きを示す。

OpenSearchのベクトル検索がGPU標準対応となり、索引作成が最大10倍速・コスト1/4に。新サーバーEC2 G7は前世代比でAI推論が最大4.6倍。試作から本番運用へ移す際に必ず突き当たる速度・コスト・運用の壁を、調達できる既製サービスとして下げる更新だ。Jalapeñoの「自前で推論基盤を作る」OpenAIとは対照的に、こちらは「既存クラウドで本番までを賄う」道筋を太くする。推論基盤の最適化はいま、自社設計とクラウド調達の両方向で同時に進んでいる。

NVIDIAのBioNeMo Agent ToolkitはAIエージェントに生命科学の専門ツールを与え、創薬候補の絞り込み（バーチャルスクリーニング）を数日から数分へ短縮する。すでに50社以上が利用し、推論基盤Nemotron、実行環境OpenShell、専門部品BioNeMoなどで構成、コードはGitHubで公開された。ワシントン大学タンパク質設計研究所との連携で設計モデルRosettaFold3が前世代比2倍高速になった。能力宣伝ではなく、母数50社・2倍速・数分という検証済みの数値で語られている点が、研究の話を業務判断に降ろす。

AWSは複数顧客に同じエージェント基盤を提供しつつデータを分離する「プール型」設計を公開した。認証トークンに顧客の階層・組織・役割を埋め込み、処理範囲を顧客ごとに自動で限定する。医療を例に挙げる構成で、規制業界のSaaS提供者に直接効く。同じAgentCore上では、1つの実行環境の中で複数の専用ツールと入れ子のLLMエージェントを協調させるタンパク質研究コパイロットの構築例も示された。「エージェントが何かできる」から「複数顧客・複数ツールを安全に束ねて運用する」段階へ、設計の議論が移っている。