今日のAIトレンド|推論コスト削減と現場特化が同時進行
今日の要点
編集判断で選び抜いた 7 本。
30 秒で読むなら
今日の AI 動向を 1 行ずつで把握。各項目をクリックすると元記事に飛びます。
- Deep Agentsで推論費を41〜80%削減
LangChainがプロンプト・キャッシュで入力固定部分の再利用を示し、トークン費圧縮の実測前提を提示。
- SageMakerでBlackwell学習が開放
AWSがP6-B200(GPU8基)を学習ジョブで利用可能にし、メモリ180GBで複数台必要だったモデルを1台集約。
- GPT-5.6 Solがプレビュー公開
OpenAIがプログラミング・科学・サイバーセキュリティを強化した次世代モデルを安全対策込みで先行提示。
- 保険代理店特化AI Caraが週10時間削減
代理店ごとにデータ分離・暗号化・アクセス管理で規制業界要件に対応した実成果をAWSが公開。
- PDFテキスト抽出が月約2.5ドルで構築
文字埋め込み済みPDFならTextractの約23〜28ドルに対し月1万ページ約2.5ドルに収まる構築手順を公開。
- PPT Masterが編集可能なPPTXを返す
生成スライドが「編集できない1枚画像」になる痛点を解消するOSSが1日+589★で急上昇。
- AI Berkshireが投資調査を多視点化
Claude Code上で4人の投資家視点を別エージェントに割り当てる調査ツール群が1日+1,274★。
推論コストを「構成で削る」議論が表に出た
賢さの競争と並行して、同じ品質をいくら安く回せるかが今日の通底テーマになった。
LangChainがDeep Agentsでプロンプト・キャッシュを使い、推論トークン費を41〜80%削減できると公開した。仕組みは過去の入力(システムプロンプトやツール定義など固定部分)を使い回すもので、削減幅は入力に占める固定部分の割合で変わる。重要なのは、これがDeep Agents固有の技術ではなくモデル各社が提供する機能を活用したものである点で、41〜80%は前提条件付きのレンジに過ぎない。自社のプロンプト構成で固定部分がどれだけ占めるかを測らないと、この数字はそのまま当てにできない。読者の側は「いくら浮く」より「自分の構成で何%が固定か」を先に確認するのが順序になる。
推論コストと対になる学習側でも、AWSがP6-B200インスタンス(Blackwell GPU8基構成)をSageMaker AIの学習ジョブで使えるようにした。B200のメモリは180GB、B300は268GBに拡大し、これまで複数台に分散させる必要があったモデルを1台に集約できる。10億パラメータのモデルで毎秒約5.1万トークン(基準の約8倍)を記録した一方、14B以上では中間結果の再計算が安定学習の前提になるという条件も明示された。台数集約は通信オーバーヘッドと運用の手間を減らすが、規模が上がると別の制約が出る——調達判断は「メモリで何台減るか」と「自社のモデル規模での実効スループット」を併せて見る必要がある。
AIが「特定業務の中」に入り込んだ実装事例
汎用能力の話より、誰のどの作業が何時間・何ドル減ったかが具体的に語られた。
保険代理店向け特化AI「Cara」が、利用者1人あたり週約10時間の事務作業を削減した事例をAWSが公開した。注目点は能力そのものより構成にある。代理店ごとにデータと業務環境を分離し、暗号化とアクセス管理で規制業界の要件に対応している。「賢いモデルがあるか」ではなく「規制下でデータ越境せずに動かせるか」が現場導入の分かれ目であることを示す事例で、金融・保険・医療など同様の制約を持つ業界の担当者にそのまま含意が降りる。
AWSはS3に保管したPDFからテキストをリアルタイムに取り出すサーバの構築手順も公開した。文字が埋め込み済みのPDFなら月1万ページでも約2.5ドルに収まると試算され、OCRベースのTextract(約23〜28ドル)と1桁違う。すべてをAIモデルに通すのではなく、抽出済みテキストがあるなら安価な手段で済ませる——「何にAIを使い、何に使わないか」のコスト設計が実装者の判断軸として浮かんだ。
次世代モデルとOSSツールの足元の動き
OpenAIが次世代モデル「GPT-5.6 Sol」をプレビューとして先行公開した。プログラミング・科学・サイバーセキュリティの3領域で能力を強化し、同社として最も高度な安全対策を組み合わせたとしている。プレビュー段階のため自社ワークフローへの組み込みは様子見が妥当だが、強化された3領域が自分の業務に重なる読者は、正式提供時に既存モデルとの差を実測できるよう評価項目を今のうちに用意しておくと判断が早まる。
GitHub急上昇の2本は方向性が対照的だ。PPT Master(1日+589★)は、生成AIスライドが「編集できない1枚画像」になる痛点に対し、図形・テキスト・グラフを個別編集できる本物のPPTXを返す。納品後の手直しを前提にした設計が支持を集めた。一方AI Berkshire(1日+1,274★)はClaude Code上で段永平・バフェット・マンガー・李録の4視点を別々のエージェントに割り当てる価値投資調査ツール群で、単一回答でなく複数視点を並べる方向に振っている。どちらも「AIの出力をそのまま使う」から「使える形・検証できる形で受け取る」への移行を示す。