電話の相手がAIだと、人はどう気づくのか

AIから電話がかかってきても、受け手がそれをAIだと見抜けるとは限りません。529人を対象にした聴取実験では、合成音声を1本ずつ聞いて合成だと見抜けた割合は73%でした[1]。

だから、「聞けばAIだと分かるだろう」を開示の代わりにはできません。企業がAIで電話をかける（この記事では架電と呼びます）なら、AIであることをどう伝えるか、AIとの通話を望まない相手にどう退出してもらうか、正規の発信元だとどう確認してもらうかを、別々に設計することになります。以下は法令要件の解説ではなく、AI架電を設計する際の実務上の整理です。導入するときは、対象地域の制度の確認が別に必要になります。

人はAIの声をどのくらい見分けられるのか。AI架電では何を分けて設計するのか。なぜ開示だけでは発信元を確認できないのか。この順に見ていきます。架電の仕組み全体は AIからの電話は、AIが受ける電話と何が違うのか で説明しています。

人はAIの声を、どのくらい見分けられるのか？

冒頭の73%は、529人に人が話した録音とAIが作った合成音声を聞かせ、どちらであるかを判定してもらった実験の数字です[1]。

結果は、聞かせ方ではっきり変わりました。音声を1本ずつ聞かせて「これは人の声か、合成音声か」を答えさせた条件では、合成音声を合成だと正しく見抜けたのは73%でした。人の声を人の声だと当てる側の正答率は、これより低いという結果でした。両方をあわせた正答率は7割ほどです。3〜4回に1回は間違える水準になります。

聞かせ方を変えて、人の声と合成音声を並べて聞き比べさせると、正答率は86%近くまで上がりました。比べる相手が手元にあると、人は違いに気づきやすくなります。この実験は英語と中国語で行われ、言語による差はありませんでした。日本語で同じ結果になるかは確認されていません。

1本ずつ聞く条件は、比較用の音声が手元にない点だけを見れば、通常の電話に近い設定です。ただし実験の参加者は、合成音声かどうかを判定するつもりで聞き、音声を聞き直すこともできました。通常の電話では、受け手は「合成かどうか判定する」という課題を与えられてすらいません。条件が異なるため、この正答率は電話での見抜き率とはみなせません。電話そのものを対象にした測定は、この実験では行われていません。

この実験では、合成音声の例を5本聞かせてから判定させる条件も試されました。それでも、正誤に回答の確信度を加味した指標での改善は平均4ポイント弱で、改善は限定的でした。

そもそも聞き分けが難しいのは、文章を声に変える技術（音声合成）が進み、条件によっては自然さの評価が人の録音と並ぶ水準に達しているためです[2]。合成音声が自然に聞こえる場合がある以上、「不自然ならAIだと気づくだろう」は開示の方法として使えません。自然さの採点のしくみは AIの声は自然になったのに、なぜ返事は遅いのか に記載しています。

AI架電では、何を分けて設計するのか？

受け手の耳には頼れないので、システム側で3つの項目を設計します。

項目	設計すること
開示	AIによる電話だと、いつ・どう伝えるか
退出	AIとの通話を望まない相手を、人の対応へ切り替えられるか
発信元確認	正規の企業からの連絡だと、声以外の経路で確認できるか

開示では、冒頭に「AIによる自動音声でご連絡しています」と名乗るかどうか、何をどこまで言うかを決めます。通話中に「これはAIですか」と聞かれたときの答え方を決めておくことも、開示の一部です。冒頭で伝えれば、AIと話したくない相手はその場で会話をやめられます。名乗らないまま通話の途中で相手が気づけば、案内の内容まで疑われかねません。聞き分けの実験が示すとおり「気づく人は気づくだろう」は前提に置けないため、伝えるなら、名乗りで明示的に伝える設計が出発点になります。

退出は、開示を受けた相手がとれる行動の設計です。開示は事実を伝えるだけで、AIと話したくない相手がその後どうできるかは、切り替え先を用意して初めて決まります。以後の連絡を人の対応に切り替えられるようにしておくかが、ここの決めどころです。

発信元確認は、公式サイトに掲載された番号へ折り返せる、公式アプリの通知で用件を確かめられる、というように、受けた電話そのものから独立した、あらかじめ信頼できる経路で行えるようにします。電話の前後に発信元と用件をショートメッセージで届ける方法もその一例ですが、メッセージ自体の発信元にも確認が要るため、別媒体というだけで確認が完結するわけではありません。

なぜ開示だけでは、発信元を確認できないのか？

「AIです」と名乗る声そのものも合成音声なので、なりすます側は同じ名乗りを使えます。開示は「AIを使っている」という事実を相手に伝えるためのもので、発信元の真正性を証明するものではありません。合成音声を機械で見分ける研究（ディープフェイク音声検出）[3]は、受け手側の防御を助けることを目指す技術であって、かける側が正規の発信元だと示す手段の代わりにはなりません。

さらに、開示は聞き流されることがあります。冒頭の名乗りは、相手が受話器を取った直後、まだ誰からの電話かを把握していない時点に置かれます。名乗りだけでは、相手が聞き取って理解したことまでは保証できません。声以外の経路を併用する理由も、ここにあります。AI利用の開示と、発信元の真正性の確認は、別に設計します。

声そのものが誰かのなりすましだった場合に、人の耳と機械による検出がどこまで届くかは AIの声は、どこまで本人の声と聞き分けられないのか に記載しています。

まとめ

AI架電では、相手がAIだと気づいてくれることを期待できません。聴取実験では、1本ずつの判定で3〜4回に1回間違え、合成の例を事前に聞かせても改善は限定的でした。だからAIであることは名乗りで明示し、望まない相手には人の対応へ切り替える退出の手段を用意し、重要な用件では発信元を声以外の経路で確認できるようにする。この3つを別々に設計することが、出発点になります。

よくある質問

電話の相手がAIだと、人はどのくらい見抜けますか？

聴取実験では、合成音声を1本ずつ聞いて合成だと見抜けた割合は73%で、3〜4回に1回は間違える水準でした。実験参加者は判定を目的に聞いており、この数字は電話での見抜き率とはみなせません。電話そのものを対象にした測定は、この実験では行われていません。

AIからの電話では、冒頭で何を開示すべきですか？

AIによる自動音声での連絡だと、冒頭の名乗りで伝えます。受け手が声だけで気づくことは前提にできないためです。あわせて、通話中に「これはAIですか」と聞かれたときの答え方と、AIとの通話を望まない相手を人の対応へ切り替える手段も用意します。

「AIです」と名乗れば、正規の発信元だと確認できますか？

できません。名乗る声そのものも合成できるため、なりすます側は同じ名乗りを使えます。正規の発信元であることは、公式サイトに掲載された番号への折り返しや公式アプリの通知のように、受けた電話から独立した経路で確認できるようにします。