電話の相手がAIだと、人はどう気づくのか

電話を切ったあとで、相手がAIだったと知る。企業が電話をかける業務をAIに任せる例が増えれば、こうした場面も増えていきます。この記事では、企業の側からAIが電話をかけることを架電と呼びます。

架電には、通話が終わっても残る問いがあります。電話を受けた人は、相手がAIだと知っていたのか、という問いです。AIだと伝える手段は3つあります。冒頭で名乗ること、通話中に「これはAIですか」と聞かれたときの答え方を決めておくこと、電話の前後に発信元と用件を文字でも届けることです。この3つをまとめて、この記事ではAIであることの開示と呼びます。

開示にどれだけ手をかけるかは、そもそも人が声だけでAIだと気づけるのか、という事実で決まります。名乗らなくても相手が声を聞いて気づくのなら、開示は形式的な手続きにとどまります。声だけでは気づけないのなら、開示は相手が事実を知る唯一の経路になります。そこでこの記事では、人が合成音声をどこまで聞き分けられるかという実験結果を先に確認し、そのうえで開示の中身を整理します。要点は次の3つです。

• 合成音声を1本ずつ判定すると3〜4回に1回間違え、訓練しても4ポイント弱しか改善しない
• 声の自然さが人の録音と並んだ以上、「聞けば分かる」は開示の代わりにならない
• AIであることは、名乗り・通話中の答え方・文字での通知というシステム側の設計で伝える

架電の全体像（受電と共通する4つのAI技術、留守番電話の判定、AI側が会話を主導する構図）は AIからの電話は、AIが受ける電話と何が違うのか で説明しています。

1本ずつの判定では、3〜4回に1回間違える

この問いを実験で調べた研究があります[1]。529人に、人が話した録音とAIが作った合成音声を聞かせ、どちらであるかを判定してもらった聴取実験です。聴取実験は、音を人に聞かせて判定や評価を答えてもらう、音声研究の標準的な方法です。

結果は、聞かせ方ではっきり変わりました。

音声を1本ずつ聞かせて「これは人の声か、合成音声か」を答えさせた条件では、合成音声を合成だと正しく見抜けたのは73%でした。人の声を人の声だと当てる側の正答率は、これより低いという結果でした。両方をあわせた正答率は7割ほどです。3〜4回に1回は間違える水準になります。

聞かせ方を変えて、人の声と合成音声を並べて聞き比べさせると、正答率は86%近くまで上がりました。比べる相手が手元にあると、人は違いに気づきやすくなります。この実験は英語と中国語で行われましたが、言語による差はありませんでした。

電話の状況に近いのは、1本ずつ聞かせたほうの条件です。かかってきた電話の声を、比較対象なしにその場で判定することになります。実験で使われた音声は平均6秒弱で、電話の冒頭のやりとりに近い長さです。ただし通常の電話では、受け手は「合成かどうか判定する」という課題を与えられてすらいません。判定しようと構えている人の成績である以上、この正答率を電話での見抜き率としてそのまま使うことはできません。

この実験では、合成音声の特徴を教えてから判定させる訓練の条件も試されました。それでも正答率の改善は平均で4ポイント弱にとどまり、試された範囲の訓練では聞き分けの力はほとんど伸びませんでした。

声の自然さは、開示の代わりにならない

聞き分けが難しいのは、文章を声に変える技術（音声合成）がそれだけ進んだからです。5点満点で自然さを採点する聴取評価では、AIが波形から生成した合成音声が4.53、プロの話し手の録音が4.58という結果が報告されています[2]。この採点の中身と、自然さと引き換えに生じる生成の遅さは AIの声はなぜ自然になったのに、返事は遅いのか で説明しています。

電話では条件がさらに悪くなります。電話は音の高い成分を落として声を運ぶため、静かな部屋で録音を聞けば気づける細かな不自然さが、受話器の向こうには届きません。

「聞けば分かるだろう」には頼れません。相手がAIだと分かる状態は、声の不自然さが教えてくれるものではなく、システムの側が明示的に作るものになりました。

開示は、名乗り・答え方・文字通知の3点で設計する

そこで、冒頭の名乗りが設計項目になります。「AIによる自動音声でご連絡しています」と最初に言うかどうか、そして何をどこまで言うかです。社名と用件だけを伝えるのか、AIが話していることまで伝えるのかで、相手の受け取り方は変わります。

名乗りには両方向の作用があります。伝えれば、AIと話したくない相手はその場で会話をやめられます。会話が短く終わる場合が増えるとしても、相手が選んだ結果です。名乗らなければ、通話の途中で相手が気づいたときに、案内の内容まで疑われることになります。どちらの作用を重く見るかは用途によって変わります。ただし聞き分けの実験が示しているのは、声だけで全員が一貫して見分けられるわけではないという事実です。「気づく人は気づくだろう」という見込みは、設計の前提には置けません。

開示は冒頭の一言だけで終わりません。通話が始まったあとの備えとして、「これはAIですか」と聞かれたときの答え方をあらかじめ決めておく必要があります。AIとの通話を望まない相手を、以後は人の対応に切り替えられるようにしておくかも決めどころです。通話の外側にも手立てがあります。電話の前後に、発信元と用件をショートメッセージなどの文字でも届けておけば、声だけに頼らない確認手段が相手の手元に残ります。

名乗りは、届いたか確かめられず、本人である証明にもならない

• 開示しても、聞き流されることがあります。冒頭の名乗りは、相手が受話器を取った直後、まだ誰からの電話かを把握していない時点に置かれます。相手の注意は用件の聞き取りに向きます。名乗りが相手に届いたかどうかを、開示の設計だけで確かめる手段はありません
• 「AIです」と名乗る声そのものも合成音声なので、なりすます側は同じ名乗りを使えます。開示は誠実さを示す装置であって、声が本人のものだという証明にはなりません。合成音声を機械で見分ける研究（ディープフェイク音声検出）[3]は受け手側の防御を助ける技術であって、かける側が誠実さを示す手段の代わりにはなりません

まとめ

• 1本ずつの判定で合成音声を見抜けたのは73%。訓練しても改善は4ポイント弱にとどまる
• 合成音声の自然さが採点で人の録音と並んだ以上、「聞けば分かる」は成り立たない
• AIであることは、声ではなくシステム側の設計で伝えることになる
• 開示は信頼のための設計であり、声が本人のものだと証明する仕組みではない

声そのものが誰かのなりすましだった場合に、人の耳と機械による検出がどこまで届くかは AIの声は、どこまで本人の声と聞き分けられないのか で説明しています。