コンピューターと人工知能モデルの能力が大幅に向上した技術時代において、ディープフェイクの普及は増加し、誰もが興味を持つようになりました。ディープフェイクとは、人間によって高解像度で録音されたように見えるビジュアルまたはオーディオ コンテンツを作成することを意味します。ディープフェイクは社会のあらゆる側面を脅かしています。
偽のコンテンツを識別する私たちの能力は、誤った情報を無力化するために非常に重要ですが、AI テクノロジーが向上するにつれて、ディープフェイクを見分けるのに誰を信頼できるでしょうか?ここで疑問が生じます。人間と人工知能のどちらがディープフェイクの検出に優れているのでしょうか?
何千年もの間、人類は音、顔を区別し、言語を理解することに成功してきました。しかし、AI を搭載したマシンはこれらの機能を上回ることができるでしょうか?この記事では、ディープフェイク検出における課題と発展を探り、この文脈における人間と人工知能の能力を比較します。確認する 動画がディープフェイクかどうかはどうやって判断できるのでしょうか?
クイックリンク
ディープフェイクの危険性
AI テクノロジーが進歩するにつれて、ディープフェイクの危険性は私たち全員にとってますます脅威となっています。以下に、ディープフェイクによって引き起こされる最も差し迫った問題のいくつかを簡単にまとめます。
- 誤報： 偽のビデオや録音は、偽ニュースなどの誤解を招く情報を広める可能性があります。
- 個人情報の盗難： ディープフェイクは個人になりすますことで、人々の評判を傷つけたり、知人を騙したりする可能性があります。
- 国際セキュリティー： 明らかなディープフェイクの戦争シナリオは、紛争を扇動する世界の指導者の捏造された映像や音声記録です。
- 市民の不安： 当事者は、特定のグループ間の怒りや社会不安を煽るために、欺瞞的な映像や音声クリップを使用することもあります。
- サイバーセキュリティ： サイバー犯罪者はすでに、AI を利用した音声クローン ツールを使用して、知人からの説得力のあるメッセージで個人をターゲットにしています。
- プライバシーと同意: ディープフェイクの悪意のある使用は、個人の同意なしに行われます。
- 信頼とその欠如: 真実と欺瞞を区別できなければ、正確な情報も同様に信頼できなくなります。
ディープフェイクはより説得力のあるものになるため、ディープフェイクを検出するための強力なツールと方法が必要です。人工知能は、ディープフェイク検出モデルの形でそのようなツールの 1 つを提供します。ただし、AI が生成した文章を認識するように設計されたアルゴリズムと同様、ディープフェイク検出ツールは完璧ではなく、完全に正確になることはありません。
現時点では、人間の判断が私たちが頼れる唯一のツールです。では、私たちはディープフェイクの識別においてアルゴリズムよりも優れているのでしょうか?
アルゴリズムは人間よりも上手にディープフェイクを検出できるのでしょうか?
ディープフェイクは非常に深刻な脅威をもたらすため、巨大テクノロジー企業や研究グループは研究開発に膨大なリソースを投入している。 2019 年、メタ、マイクロソフト、アマゾンなどの企業は、チャレンジ中に XNUMX 万ドルの賞金を提供しました ディープフェイク検出チャレンジ 最も正確な検出モデル用。
最もパフォーマンスの高いモデルは、公開されているビデオのデータセットに対して 82.56% の精度でした。しかし、同じモデルを 10000 本の未視聴ビデオの「ブラック ボックス データセット」に対してテストしたところ、最もパフォーマンスの高いモデルの精度は 65.18% にすぎませんでした。
また、人間に対する AI ディープフェイク検出ツールのパフォーマンスを分析する研究も数多くあります。もちろん、結果は研究ごとに異なりますが、一般的に、人間はディープフェイク検出ツールの成功率と同等かそれを上回っています。
2021年に発表されたある研究によると… PNAS 「普通の人間の観察者」は、主要なディープフェイク検出ツールよりもわずかに高い精度率を達成しました。ただし、この研究では、人間の参加者と AI モデルがさまざまな種類のエラーの影響を受けやすいことも判明しました。
興味深いのは、...によって行われた研究です。 シドニー大学 人間の脳は、意識的に努力するよりも無意識のうちにディープフェイクを検出する方が効果的であることがわかりました。確認する ディープフェイク技術の主な危険性とその見分け方.
ディープフェイク技術で視覚的な手がかりを発見する
ディープフェイク検出の科学は複雑で、必要な分析は映像の性質によって異なります。たとえば、2020 年の北朝鮮の指導者、金正恩氏のフェイク動画は、本質的には討論動画です。この場合、ディープフェイクを検出する最も効果的な方法は、音素 (口の動き) と音素 (音声) の不一致を分析することかもしれません。
人間の専門家、一般の閲覧者、およびアルゴリズムは、結果が異なる場合でも、この種の分析を実行できます。彼は指定します マサチューセッツ工科大学 (MIT) 偽ビデオを見分けるための 8 つの質問:
- 顔に注目してください。高度なディープフェイク操作には、顔の変形が含まれることがよくあります。
- 頬やおでこに注目。肌が滑らかすぎるように見えたり、しわが多すぎたりしませんか?肌の年齢は髪や目の年齢と一致していますか？寸法によっては一致しない場合があります。
- 目と眉毛に注目。予想した場所に影が現れますか?ディープフェイク技術は、シーンの自然な物理学を完全には表現できない可能性があります。
- メガネにも注目。眩しさはありますか？眩しさが多いですか？人が動くとグレア角度が変わりますか?繰り返しになりますが、ディープフェイク技術は照明の自然物理を完全には表現できない可能性があります。
- 顔の毛や毛の欠如に注意を払う。この顔の毛は本物に見えますか？ディープフェイク技術により、口ひげ、もみあげ、あごひげが追加または削除される場合があります。ただし、ディープフェイク技術では、完全に自然な顔の毛の変形を作成できない可能性があります。
- 顔のほくろに注意。ほくろは本物に見えますか？
- まつげに注目してください。その人のまばたきは十分ですか、それとも多すぎますか?
- 唇の動きに注目。一部のディープフェイクは口パクに依存しています。あなたの唇の動きは正常に見えますか？
最新の AI ディープフェイク検出ツールは、同じ要因を再度分析できますが、成功の程度は異なります。データ サイエンティストは、画面上のスピーカーの顔の正常な血流を検出するなど、新しい手法も常に開発しています。新しい方法や既存の方法の改良により、将来的には AI ディープフェイク検出ツールが常に人間を上回るパフォーマンスを発揮する可能性があります。
ディープフェイクで音声の手がかりを検出する
偽の音声を検出することは、まったく異なる課題です。ビデオの視覚的な手がかりや、音声と映像の不一致を特定する機会がなければ、ディープフェイクの検出は音声分析に大きく依存します (場合によっては、メタデータ検証などの他の方法も役立ちます)。
あなたが発表した研究を見つけました ロンドン大学 2023 年には、人間は偽の音声を 73% 検出できるようになります (英語と北京語)。フェイクビデオと同様に、人間の聞き手は、何が不自然に聞こえるかを識別できなくても、AI が生成した音声の不自然な音声パターンを直感的に検出することがよくあります。
一般的な兆候は次のとおりです。
- 音節。
- 表現力の欠如。
- 背景ノイズまたは干渉。
- – 声や話し方に一貫性がない。
- 音に「充実感」が欠けている。
- 過度に書かれた配信。
- 欠陥はありません（誤ったスタート、修正、咳払いなど）。
繰り返しますが、アルゴリズムは同じディープフェイク信号の音声を分析することもできますが、新しい方法によりツールはさらに効果的になっています。彼女は自分が行った研究の概要を説明した USENIX 人工知能を使用した声道再構築のパターンは、自然な音声を模倣することができません。要約すると、AI サウンド ジェネレーターは、人間の音声の自然な動きを使わずに、狭い声道 (ストローほどの大きさ) で同じ音を生成するということです。
以前に実施された研究 ホルスト・ゲルツ研究所 英語と日本語の本物の音声と偽物の音声を分析し、本物の音声と偽物の音声の高周波の微妙な違いを明らかにしました。
声道のコントラストと高周波はどちらも、人間のリスナーと AI 検出モデルによって知覚できます。高頻度の差異の場合、理論上は AI モデルの精度が高まる可能性がありますが、AI ディープフェイクについても同じことが言えます。
人間とアルゴリズムはディープフェイクに騙されますが、その方法は異なります
研究によると、人間と最新の AI 検出ツールも同様にディープフェイクを発見できることがわかっています。合格率は、テスト基準に応じて 50% から 90% 以上の範囲になります。
したがって、人間と機械も同様の程度でディープフェイクに騙されます。ただし、さまざまな点で私たちが脆弱であることが重要であり、これがディープフェイク技術のリスクに対処する上での私たちの最大の資産となる可能性があります。人間とディープフェイク検出ツールの長所を組み合わせることで、それぞれの弱点が軽減され、成功率が向上します。
たとえば、私が見つけたのは、 マサチューセッツ工科大学の研究 人間は、人工知能モデルよりも、世界の指導者や有名人の偽画像を認識することに優れていました。また、AI モデルが複数の人からの音声を拾うことが困難であることも明らかになりましたが、これは個々の音声を含む映像でアルゴリズムがトレーニングされた結果である可能性があることを示唆しています。
逆に、同じ研究では、人間の視聴者を欺くために意図的に使用できる低品質のビデオ (ぼやけた、粒子の粗い、暗いなど) では、AI モデルが人間よりも優れたパフォーマンスを発揮することがわかりました。同様に、顔の特定の領域の血流を監視するなど、最新の AI 検出方法には人間には不可能な分析が含まれています。
より多くの方法が開発されるにつれて、人間が検出できない兆候を検出する AI の能力が向上するだけでなく、欺く能力も向上します。大きな問題は、ディープフェイク検出技術がディープフェイク自体を上回るパフォーマンスを発揮できるかどうかです。確認する 仮想誘拐のリスクに対処し、オンラインで身を守るにはどうすればよいでしょうか?脅威を特定する.
よくある質問
Q1.ディープフェイク技術とは何ですか?
ディープフェイクは、人工知能を使用して、人間の被験者が作成したように見える映像または音声コンテンツを高精度で作成する技術です。
Q2.ディープフェイクの用途は何ですか?
ディープフェイク技術は、映画、ゲーム業界、セキュリティ、詐欺など、幅広い用途で使用されています。
Q3.ディープフェイクはどのようにして検出できるのでしょうか?
ディープフェイク検出技術は人工知能の貢献により進歩を続けていますが、依然として人間のツールや手法が必要です。
Q4.ディープフェイク検出が直面している課題は何ですか?
課題の中には、偽造技術の継続的な開発や、本物のコンテンツとディープフェイクの区別の難しさなどが挙げられます。
Q5.人工知能はディープフェイクの検出において人間を上回ることができるでしょうか?
人工知能は目覚ましい進歩を遂げていますが、この状況では人間の能力が依然として重要です。
ディープフェイクの時代に物事の見方が変わる
AI ベースのディープフェイク検出ツールは今後も改善され、ディープフェイク コンテンツ自体の品質も向上します。 AI の欺瞞能力が検出能力を上回った場合 (AI が生成したテキストの場合のように)、ディープフェイクと戦うために私たちが残した唯一のツールは人間の判断かもしれません。
ディープフェイクの兆候を認識し、それを特定する方法は全員の責任です。詐欺やセキュリティの脅威から身を守ることは別として、オンラインで議論したり共有したりするものはすべて、現実の把握を怠ると誤った情報の影響を受けやすくなります。閲覧できるようになりました 人工知能を使ってコンテンツを書くことの危険性と、AI が生成したテキストを検出する方法.
