女性向け健康アプリを提供するFlo Healthが、Amazon Bedrock上に医療コンテンツの審査・生成システムを本番稼働させた。AWS Generative AI Innovation Centerの実証実験(PoC)を本番運用に発展させた結果、審査時間を60%削減し、医療チームを増やさずにコンテンツ制作量を3倍にした。従来、医療専門家は1記事あたり平均7営業日を費やして事実確認やチェックリスト照合を行っており、これが制作拡大の最大の障害になっていた。
設計の核は、審査を一括で任せず観点ごとに専用のAI審査官(AI Judge)を分けた点にある。医療精度・法令順守・ブランド調整などを個別に評価し、評価はLLM-as-a-judge方式で正確性・完全性・忠実性(ハルシネーション検出)の品質指標から選ぶ。リスクや遅延・コストに応じて、高リスク検査には高精度モデル、簡易検査には軽量モデルを割り当てる。生成側は軽い分類にClaude Haiku、高度な文章生成にClaude Sonnetを使い分け、検索拡張生成(RAG)で信頼できる医療ソースに根拠を縛る。
運用は内部ガイドライン照合・外部医療ソース照合・人による最終確認の三層検証で、最終判断を人が握る。AIを人の代替ではなく専門家の作業を増幅する支援役に据えた設計は、規制の厳しい領域で生成AIを本番投入する際の再現性のある参照点になる。