夜遅く、あなたの両親はパニックに陥ったあなたから音声メッセージを受け取ります。その内容は、あなたが困っているので助けが必要であること、財布が盗まれたこと、そしてあなたが見知らぬ場所で立ち往生していることを告げるものです。あなたが家に帰れるように、お金はすぐにあなたに送金されなければなりません。
手紙の中の声はとてもリアルで、紛れもなく彼の子供の声ですが、実際はそうではありません。彼は AI 音声クローンであり、恐ろしいほど効果的であると同時に巧妙な詐欺のターゲットになっています。
この種の詐欺は、人工知能技術を利用して、実際の声に非常に似た方法で、家族や友人のものであるかのような音声を生成します。これらの偽の投票が検出されないと、混乱や誤った情報が引き起こされ、重大な結果につながる可能性があります。したがって、家族のオーディオ クローン作成詐欺を検出することは、完全性とセキュリティを維持するために不可欠です。確認する 大規模コンテンツの作成におけるオーディオ クローン技術の使用を評価する.
クイックリンク
AI音声クローン詐欺はどのように行われるのでしょうか?
音声クローン技術を使用すると、人の声の信じられないほどリアルなデジタル コピーを作成できます。一般的にこの技術と呼ばれるのは、 ディープフェイク音声、ElementalLabs などの AI 音声クローン作成ツールを使用します (以下の AI 音声クローン作成の例を参照)。生成 AI と音声合成を組み合わせることで、クローン音声は感情、ニュアンス、イントネーション、さらには恐怖さえも再現できます。
参考までに、Really Helpful Podcast でのクリスチャン・カウリー氏の実際の声は次のとおりです。
AI 文字起こしを作成するには、小さな音声サンプルだけが必要です (多くの場合、わずか 1 分以内)。音声は公開ソーシャル メディア投稿からサンプリングされることが多く、投稿内の音声が高品質ですぐに入手できるため、vlogger、クリエイター、有名人は特に脆弱になります。
詐欺師は音声サンプルのクローンを作成すると、テキスト読み上げ、さらにはリアルタイム音声読み上げを使用して、偽の通話や音声メッセージを作成します。
被害者のソーシャル メディア アカウントにアクセスして個人情報を収集した後、詐欺師は信憑性のあるシナリオを作成します。それは、入院、逮捕、強盗、誘拐、または恐怖や混乱を引き起こすあらゆるものに関連している可能性があります。その後、複製された音声は、家族の誰かが深刻な問題を抱えていると信じ込ませるために家族を操作するために使用されます。
声と感情のリアルさは、要求の衝撃と緊急性と相まって、懐疑論を圧倒し、送金や機密情報の提供を性急に決定する可能性があります。
なぜ AI 音声クローン詐欺はこれほど効果的なのでしょうか?
家族や友人をターゲットにしたほとんどの詐欺と同様、AI 音声クローンは個人的なつながりを悪用するため効果的です。家族からの救難信号を受信したときのパニックは、すぐに判断力を鈍らせ、性急な決断につながる可能性があります。物々交換詐欺と同じ手口ですが、近くにいる人の声を聞くと効果が高まります。
ソーシャルメディアで大規模な存在感を示す人の家族や旅行する人の家族は、その状況が詐欺師の捏造した物語にもっともらしい文脈を提供するため、特に危険にさらされます。詐欺師はターゲットの個人データを事前に公開ソーシャル メディア アカウントから収集して使用することが多いため、話に説得力が生まれます。確認する 仮想誘拐のリスクに対処し、オンラインで身を守るにはどうすればよいでしょうか?脅威を特定する.
AI 音声クローン詐欺の主な兆候
その複雑さにもかかわらず、AI の音声クローン作成は、次のような特定の警告サインを通じてその正体を明らかにする可能性があります。
- 緊急： 詐欺師は、すぐに行動を起こさないと何か恐ろしいことが起こるとあなたに説得しようとします。
- 事実： 詐欺師はあなたとターゲットの関係の背後にある全容を必ずしも知っているわけではないため、矛盾点に注意してください。
- 珍しいリクエスト: 海外の銀行口座に資金を送金したり、仮想通貨ウォレットに支払ったりするリクエストが一般的な方法です。
悲惨な状況に直面したときにこれらの要素を考慮するのは難しいですが、詐欺に遭うことを防ぐことができる可能性があります。
AI 音声クローン詐欺の疑いがある場合の対処方法
愛する人からの電話や音声メッセージを受け取った場合は、落ち着いてください。詐欺師はあなたをパニックに陥らせて感情的にさせようとします。そうすることで、あなたが詐欺師の手口にさらされる可能性が高まるからです。
電話がかかってきたら
通話が音声クローン詐欺の可能性があると一瞬でも疑われた場合は、すぐに電話を切ります。情報を共有したり、詐欺師と取引したりしないでください。代わりに、大切な人に既知の番号に電話をかけ直して、救難信号が本物であることを確認してください。
詐欺師とさらに会話すると、あなたの声が録音され、複製される危険性もあります。
音声メッセージを受信した場合
詐欺師が音声メッセージを残した場合は、すぐにその音声を携帯電話またはラップトップに保存してください。この音声サンプルを AI 音声分類器で使用して、人間の声かどうかを判断できます。 AI を活用した音声分類器はハードウェアと同じように機能します 人工知能によるタイピング検出。音声ファイルを入力するだけで、分類器はそれを人間が生成したものとしてマークするか、AI によって生成されたものとしてマークします。
このチェックを行うための優れたツールの 1 つが、イレブンラボ音声分類器です。イレブンラボは、ほとんどの AI 音声クローン プラットフォームを強化しているため、音声がクローンされたかどうかを判断するための理想的なツールです。これを使用して AI 再生音声を識別する方法は次のとおりです。
- انن<XNUMXxDXNUMX><XNUMXxDXNUMX><XNUMXxDXNUMX><XNUMXxXNUMX>لل<XNUMXxDXNUMX><XNUMXxDXNUMX><XNUMXxDXNUMX><XNUMXxAXNUMX> イレブンラボ音声分類器.
- サンプル音声メッセージをアップロードし、「合成音声を検出」をクリックします。
以下の例では、遭難メッセージが誰かによって録音され、ワークブックにアップロードされました。改ざんされる可能性が 2% であるというフラグが付いていることがわかります。
次の例では、AI 音声複製ツールを使用して同じ遭難メッセージが生成されました。人間の耳にとって、音は区別できません。ただし、このツールは、AI によって生成される可能性が 98% であると評価しました。
このワークブックを 100% 信頼することはできませんが、クローンされたオーディオの使用に関する疑念を裏付けることができます。また、あなたの愛する人に既知の番号に電話して確認する必要があります。確認する ディープフェイク技術の検出においては、人間の能力と人工知能のどちらが優れているのでしょうか?.
AI 音声クローン詐欺に対する最善の防御は予防です
ハイテク詐欺に対する最善の防御策は、ローテクなソリューションである場合があります。
愛する人、家族、友人だけが知っているオフライン パスワードを作成します。重要な状況で電話をかける場合、このパスワードを使用すると、発信者の身元を確認する確実な方法になります。
最後に、個人情報をソーシャル メディア サイトから遠ざけることは、詐欺師がストーリーを構築するのに十分な情報を収集できないようにするための大きな一歩です。覚えておいてください: みんなに知られたくない場合は、ソーシャル メディアで共有しないことが最善です。今すぐ閲覧できます ダークウェブ上のソーシャル メディア アカウント データの価値は何ですか?
