さて、気分を害さないでください。しかし、あなたは自分が思っているほどディープフェイクを見抜くのが得意ではありません。 

あなただけではありません。誰もそこまで上手ではありません。あなたのお母さんも、上司も、IT部門の誰も。 

さらに悪いことに、あなたは偽物を見分けられると思っているかもしれません。ソーシャルメディアで有名人の奇妙なAI生成動画を見ると、あの不気味の谷現象に襲われるでしょう。しかし、頼りになるのが声だけだと、話は別です。 

現実世界では、クローン音声を聞き取れる確率は50%程度です。まるでコインを投げるようなものです。

そして、それは私たちを攻撃に対して非常に脆弱にします。

「典型的な」音声クローン詐欺では、発信者は即時の支払いを求めています（「こんにちは、あなたの上司です。会社のお金をこの口座にできるだけ早く送金してください」）。一方、より複雑なソーシャルエンジニアリング攻撃もあります。電話は企業のシステムに侵入し、データを盗んだりマルウェアを仕掛けたりするための入り口に過ぎません（MGM攻撃ではまさにこれが起こりましたが、AIは使用されていませんでした）。

ソーシャル エンジニアリング攻撃で音声の複製を使用するハッカーが増えるにつれ、ディープフェイクは非常に重要な問題となり、恐怖をあおる行為 (たとえば、音声を複製するには 3 秒以上の音声が必要であることは間違いない) と実際のリスクを区別することが難しくなっています。

真のリスクを誇張から切り離すには、いくつかの基本的な質問に答える必要があります。

1. 誰かの声をディープフェイクするのはどれくらい難しいですか? 
2. ハッカーは音声クローンをどのように利用して企業を攻撃するのでしょうか?
3. では、このクローンの攻撃から私たちはどうやって身を守ればいいのでしょうか?

多くの現代技術と同様に、ディープフェイク攻撃は人々の根深い恐怖心を巧みに利用します。例えば、「上司に怒られている」といった恐怖です。こうした不安は、詐欺が始まった当初からソーシャルエンジニアに利用されてきましたが、音声クローンは彼らの戦術に新たな活力を与えています。 

しかし、朗報なのは、たとえ信頼している人物の声にそっくりだったとしても、そうした恐怖を乗り越えて疑わしい電話だと認識できるように訓練できるということです。  

調査結果についてさらに詳しく知りたい方は、Kolideブログの記事をご覧ください。音声ディープフェイクに関して私たちが何を懸念すべきかを率直かつ徹底的に考察しています。**

今週の MacStories をスポンサーしていただいた Kolide に感謝します。