AIからの電話は、なぜ台本どおりに進まないのか

かかってきた電話にAIが応対する仕組み（受電）は、かかってきた質問に答えれば仕事が成立します。企業の側からAIが電話をかけることを架電と呼びます。架電では、受電と立場が逆になります。用件を持っているのはAIのほうです。相手は、こちらの話を聞く準備をしていません。

予約確認の電話であれば、日時を伝え、変更の希望を聞き、変更したいと言われたら新しい候補を受け取るところまでが仕事になります。この目的地まで会話を運ぶのは、AIの側です。あらかじめ用意しておく発話と分岐の設計を、ここでは台本（シナリオ）と呼びます。

システムの側から会話を進めて決められた目標へ導く働きは、研究の世界では、聞かれたことに答えるだけの対話とは区別して扱われています[1]。この記事では、その台本がなぜ書いたとおりに進まないのか、どんな技術がそれを支えているのかを説明します。要点は次の3つです。

• 台本は1本道にならず、返答ごとに枝分かれする木の形になる
• 分岐をたどるには、会話の現在地を項目ごとに追う対話状態追跡（DST）が要る
• 台本の枝にない返答は例外ではなく前提で、その受け皿も台本の一部として設計する

架電と受電で何が共通し、何が架電だけの課題なのかは AIからの電話は、AIが受ける電話と何が違うのか で説明しています。

台本は1本道にならず、枝分かれする木になる

予約確認の電話で考えます。たとえば、こんな流れです。

• AI「明後日14時のご予約の確認でお電話しました」
• 相手「あー、それ変えたいんだよね」→ 変更の枝へ
• AI「かしこまりました。ご希望の日時はございますか」
• 相手「金曜って空いてる？」→ 候補確認の枝へ

電話に出たのが本人か、家族か。日時をそのまま承知したか、変更したいか、そもそも心当たりがないか。返答によって、次に言うべきことが変わります。そのため台本は、「もし〜なら」で枝分かれする木の形になります。

聞くべき項目と分岐をあらかじめ決めておくこの考え方は、決まった用事を会話で片づける対話（タスク指向対話）の研究として、長く積み重ねられてきました[3]。

分岐をたどるには、会話の現在地を追い続ける必要がある

木をたどるには、いま自分がどの枝にいるのかがわかっていなければなりません。そのためにAIは、聞き取った内容を項目ごとに書き留めていきます。「日時は伝えた」「変更の希望あり」「新しい候補は未確認」といった項目です。この、会話の現在地を項目の集まりとして更新し続ける仕組みは対話状態追跡（DST）と呼ばれ、それ自体が研究分野になっています[2]。項目を埋めていく処理はスロットフィリングと呼ばれます。

項目が埋まらないうちに先へ進めば、肝心の希望を聞き忘れたまま通話が終わります。逆に、すでに聞き取れている項目をもう一度たずねれば、相手には話が通じていないように聞こえます。

電話では、この追跡が聞き取り誤りの上に載ります。「金曜」を「明日」と聞き間違えたまま項目を更新すると、その先の会話は、正しい台本の間違った場所を進みます。電話の音は運べる範囲が狭く、聞き間違いが起きやすくなります。その理由は 電話の音声認識はなぜ聞き間違えるのか で説明しています。誤った項目は分岐の選択に直結するため、状態の追跡は文字のチャットより難しくなります。

想定外の返答は例外ではなく、前提として数える

分岐を丁寧に作り込んでも、相手は枝の外から話しかけてきます。「その前に、おたくどこの会社？」と確認されることがあります。「いま運転中で」と都合を告げられることもあります。「そういえば料金のことも聞きたいんだけど」と、別の用件を持ち出されることもあります。どれも、予約確認の枝には用意されていない返答です。

枝の外からの返答は、まれな事故ではなく、ふつうに起きるものとして数えておく必要があります。設計の観点で重要なのは、「台本の枝にない返答を扱う分岐も、台本の一部として設計する」ことです。

受け皿にできる応答は、いくつもあります。聞き返されたら言い直します。都合が悪ければ、日をあらためてかけ直すことを申し出ます。別件はいったん受け止めて、本題に戻します。どの分岐にも乗らない返答が続いたときは、無理に会話を続けず人に引き継ぎます。

この線引きは、受電で誤案内（事実にない内容をそれらしい文で答えてしまう失敗）を防ぐ対策と同じ形をしています。どちらも、AIに話させてよい範囲をあらかじめ決めておき、その外に出た会話は人へ渡す、という組み立てです。範囲の決め方と渡し方は 自動応答のAIは、言ってはいけないことをどう避けているのか で説明しています。

書き切るかAIに任せるかで、保守の重さと柔軟さが入れ替わる

台本の作り方には、2つの方向があります。

1つは、分岐と言い回しを人が書き切る方式です。話す内容の候補をあらかじめ限定できるため、生成に由来する誤案内は抑えやすくなります。代わりに、分岐が増えるほど作成と保守の手間が重くなります。想定外への強さも、人が書いた範囲を超えません。

もう1つは、目的だけを与えて、文章を作るAI（大規模言語モデル）に会話の進め方ごと任せる方式です。想定外への応答は柔らかくなります。ただし、言い回しをあらかじめ確認できないため、誤案内対策の比重が増します。

実際の設計は、この2つの方式の間のどこかに置くことになります。骨組みの分岐は人が書き、枝の中の言い回しはAIに任せる、といった折衷です。どちらに寄せるかで、保守の重さと想定外への強さの配分が変わります。研究でも、聞き取り・状態追跡・応答生成を部品に分けて組み立てる構成と、対話の進行そのものをまとめて学習させる構成の両方が整理されています[3]。

会話を主導しても、主導権は相手が握ったまま

• 台本をどれだけ作り込んでも、電話の相手の協力を強制はできません。会話を主導するといっても、いつ切るかを決めるのは相手です
• 状態の追跡は聞き取り誤りに引きずられます。誤った項目を「確認済み」として先へ進むと、あとの分岐が全部ずれます
• 想定外の受け皿を厚くするほど、分岐の設計は重くなり、通話も長くなります。受け皿の厚さと台本の保守性の間にトレードオフがあります

まとめ

• 架電は、応答ではなく会話の主導が必要になる。この働きは研究上も別の対象として扱われる
• 台本は分岐する木の形になり、会話の現在地を追う対話状態追跡（DST）がそれを支える
• 台本の枝にない返答を扱う分岐も台本の一部として設計し、受けきれない分は人へ引き継ぐ
• 分岐を書き切る方式とAIに任せる方式の間に、保守の重さと柔軟さのトレードオフがある

台本と主導権の問題を解いても、「いつ話し始めるか」という間の取り方は受電と共通の課題として残ります。相手の話の終わりをどう見分けるかは AIとの通話はなぜ会話が噛み合わないのか で説明しています。