LangChainが、AI利用状況の可視化と安全ルールの強制適用を運用基盤「LangSmith」の内部に統合した「LLM Gateway」を限定公開(プライベートベータ)した。同社の発信は2026年6月10日に確認できる。
従来、企業がAIアプリを安全に運用するには、リクエストを中継するゲートウェイ、不適切な出力を防ぐガードレール、利用状況を記録する監視基盤の3つの基盤を別々に導入し連携させる必要があった。問題発生時は3基盤の記録を突き合わせて原因を追う手間が生じていた。LLM Gatewayはこの分散を解消し、観測と制御を同じ基盤の内側に置く。
備える機能は、利用状況の可視化、安全ルールの強制適用、個人情報の自動削除、支出上限の設定の4点。本番運用でコスト抑制と個人情報保護を一元管理したい企業にとって、現状の運用構成を見直す判断材料となる。ただし現時点では限定公開段階である。