開発企業Lokaが音声対話モデルAmazon Nova 2 Sonicを使い、最初の応答までを1.39秒に短縮した自然な音声エージェントを構築した事例をAWSが公開した。音声を文字に変換せず直接理解・生成する方式で、低コストと高速応答を両立した。
AWSは開発企業Lokaが音声対話モデルAmazon Nova 2 Sonicを使い、自然で待ち時間の短い音声エージェントを構築した事例を公開した。音声を文字に変換せず音声のまま理解・生成する音声対音声方式により、最初の応答までの時間を1.39秒に短縮し、ユーザーの割り込み発話にも自然に対応した。
音声推論ベンチマークBig Bench AudioではNova 2 Sonicが87.0点を記録し、GPT Realtimeの83.0、Gemini 2.5 Flashの71.0を上回った。コストは入力音声1時間あたり約0.27ドル(公開時点)で、自動車販売店のような大規模な顧客対応に音声AIを現実的に乗せられる水準に近づいた。
Lokaはプロンプトを反復して磨き、総合評価を2.7→3.1→3.8(5点満点)へ向上させた。運用ではAmazon Bedrockのプロンプト管理で版を管理し、店舗ごとの変数を実行時に差し込んで再利用している。応答速度・精度・コストの三つを同時に比較できる判断材料になる。
この変化で何が要点か。図解と出典つきで一目で。
構造化された事実を最初に。誰が何をいつどこでなぜどのように。
従来の音声アシスタントは「音声→文字変換→大規模言語モデル処理→文字→音声変換」という3段階で動くため、各段階で遅延が積み重なり、応答までに3〜5秒の沈黙が生じやすかった。さらに文字に変換する過程で声のトーンや言いよどみ、緊急度といった情報が失われ、複雑な依頼を取りこぼしやすい。常時音声を処理する仕組みは大規模運用ではコストもかさみ、音声AIの普及を阻んできた。これに対し、音声を直接受け取って理解・推論・生成までを一体で行う「音声対音声（speech-to-speech）」モデルが登場し、状況が変わりつつある。AWSはこの分野向けにAmazon Nova 2 Sonicを提供している。
Nova 2 Sonicは音声推論の評価指標（Big Bench Audio）で87.0点を記録し、Google Gemini 2.5 FlashのネイティブAudio（71.0）やOpenAIのGPT Realtime（83.0）を上回ったとされる。音声入力1時間あたり約0.27ドルというコストで、自動車販売店のような大規模な顧客対応に音声AIを現実的に導入できる水準に近づいた点が重要だ。コールセンターや店舗の電話応対を抱える企業にとって、応答速度・精度・コストの三つを同時に評価する判断材料になる。
開発企業Lokaが音声対話モデルAmazon Nova 2 Sonicで構築した音声エージェントは、最初の音声応答までを1.39秒に縮め、ユーザーが話の途中で割り込む発話(バージイン)にも自然に応じた。AWSはこの事例で、顧客が途中で電話を切ってしまうような遅くてロボット的な音声アシスタントの課題を解いたと説明している。
we demonstrate the architecture and approach Loka used to solve a common frustration: robotic, slow voice assistants that cause customers to hang up
上の引用にある「顧客が電話を切る原因になる遅くてロボット的な音声アシスタント」という痛点は、応対の一次受けを自動化したい事業者が現場で抱えるものだ。応答が遅ければ顧客は離脱し、ブランドの評判もサポートコストも悪化する。1.39秒という数字は、その離脱を防ぐ実用水準として読める。
従来の音声アシスタントは「音声を文字に変換し、大規模言語モデルで処理し、文字をまた音声に戻す」という3段階で動く。各段階で遅延が積み重なり、応答までに数秒の沈黙が生じやすい。さらに文字に変換する過程で、声のトーンや言いよどみ、緊急度といった情報が抜け落ち、複雑な依頼を取りこぼす。
Nova 2 Sonicはこれを、音声を直接受け取って理解・推論・生成までを一体で行う音声対音声(speech-to-speech、音声を文字に直さず音声のまま処理する方式)で置き換える。文字を経由しないため遅延が減り、声に含まれる情報も保たれる。Lokaが1.39秒の応答と割り込みへの追従を実現できたのは、この方式の違いによるものだ。
常時音声を処理する仕組みは大規模運用ではコストがかさみ、音声AIの普及を阻んできた。入力音声1時間あたり約0.27ドル(公開時点の価格)という水準は、その制約をどこまで崩せるかの目安になる。
音声の理解と推論を測るベンチマークBig Bench Audioで、Nova 2 Sonicは87.0点を記録した。比較対象は次のとおり。
速度だけでなく音声推論の精度でも上位に位置する点が、電話応対への適用判断を後押しする。ベンチの内容はBig Bench Audioで公開されている。
ただしベンチの点数と自社の応対シナリオでの精度は別物だ。商品名の聞き取りや方言、業界固有の言い回しなど、実際の通話に近い条件で確かめる必要がある。点数は出発点であって結論ではない。
Lokaはモデルを差し替えただけでなく、プロンプト(モデルへの指示文)を反復して磨いた。総合評価は2.7→3.1→3.8(5点満点)へと段階的に向上したと報告されている。応答品質はモデル選定だけで決まらず、指示文の作り込みが効くことを示す。
運用面ではAmazon Bedrock(AWSの生成AI基盤)のプロンプト管理機能で指示文の版を管理し、店舗ごとの変数を実行時に差し込んで同じプロンプトを使い回した。多拠点展開で店舗ごとに指示文を作り直すのではなく、共通の型に変数を流し込む設計だ。
この設計が読者にとって着手時の落とし穴を一つ消す。店舗数が増えるたびにプロンプトを複製・修正すると保守が破綻するが、版管理と変数差し込みを最初から分けておけば、拠点追加のコストを抑えられる。
立場別、明日から動ける一手。
音声推論ベンチBig Bench AudioのNova 2 Sonic 87.0・GPT Realtime 83.0・Gemini 2.5 Flash 71.0を、自社の応対シナリオに当てて精度差を比較する。
電話応対1件あたりの許容コストと許容応答時間を、入力音声1時間約0.27ドル・応答1.39秒という基準と照らして定義する。
自社の応対音声で最初の応答までの時間と割り込み発話への追従を、Loka事例の1.39秒を基準に測る。
本事例そのものへの大きな反応は確認できていない。
音声対話AIをめぐる関連動向として、GoogleのGemini Sparkが米国のGoogle AI Ultra契約者向けにベータ提供を開始したという告知が出ており、各社が会話型音声AIへの投入を続けている状況がうかがえる。Lokaの事例は応答速度・精度・コストの三つを具体数値で示した実装報告として、電話応対の自動化を検討する実装現場が参照する材料になっている。
※トレンド検出時刻付近の人気投稿を表示
