AI コンテンツ検出ツールが機能しない、それが大きな問題

人工知能 (AI) は、好むと好まざるにかかわらず、World Wide Web を含め、社会のあらゆる部分の考え方や交流の方法を変革します。

ChatGPT のようなモデルはインターネット接続があれば誰でも利用できるため、AI が生成したコンテンツを人間が生成した独自のオリジナルコンテンツから区別することがますます困難になってきています。 AI コンテンツ検出ツールがあるのは良いことですよね?確認する人工知能を使ってコンテンツを書くことの危険性と、AI が生成したテキストを検出する方法.

クイックリンク

コンテンツ検出ツールは AI テキスト認識を可能にしますか?

AI コンテンツ検出ツールは、テキストがコンピューターによって書かれたのか人間によって書かれたのかを判断する特殊なツールです。 Google で「AI コンテンツディテクタ」というフレーズを検索すると、数十の検出ツールが利用可能であることがわかります。それらはすべて、人間のテキストと人間以外のテキストを確実に区別できると主張しています。

仕組みは非常にシンプルです。文章のスニペットを貼り付けると、ツールがそれが AI によって生成されたかどうかを教えてくれます。より技術的な用語で言えば、AI コンテンツ検出ツールは、自然言語処理技術と機械学習アルゴリズムを組み合わせて使用し、パターンと予測可能性を探し、それに基づいて接続を確立します。

これは机上では素晴らしく聞こえますが、AI コンテンツ検出ツールを使用したことがある場合は、控えめに言っても、それが当たり外れがあることをよく知っているでしょう。多くの場合、人間が書いたコンテンツが AI によって作成されたものとして検出されたり、AI によって生成されたテキストが人間によって生成されたものとして検出されたりします。実際、やるべきことが恥ずかしいほど下手な人もいます。

AI コンテンツ検出ツールはどの程度正確ですか?

米国にお住まいの場合、「AI コンテンツディテクタ」の最初の Google 検索結果は... ライタードットコム (以前は Qordoba として知られていました。独自の検出器も備えた AI コンテンツプラットフォームです。)しかし、ランダムな記事からセクションを貼り付けると... AP通信社このツールでは、AIによって生成された可能性が非常に高いと主張しています。

それで、あなたは間違いを犯しました。

公平を期すために言うと、他の AI コンテンツ検出ツールも優れたものではありません。誤検知を引き起こすだけでなく、AI コンテンツを人間としてラベル付けします。そうでなくても、AI が生成したテキストに微調整を加えるだけで、完全に合格するのに十分です。

2023年XNUMX月、ウロンゴン大学講師アーミン・アレマルダニ氏とUNSWシドニー准教授エマ・A. Jane 」は、多くの人気のある AI コンテンツ検出ツールをテストしましたが、どれも信頼できるものではないことを証明しました。アリマルダニとジャイナ教は、次のように結論づけた。会話は、テキスト生成ツールと検出ツールの間の AI の「軍拡競争」が、将来、特に教師にとって大きな課題となるだろうと指摘しました。

しかし、懸念する理由があるのは教師だけではありません。誰もが懸念するべきです。 AI が生成したテキストが遍在するにつれて、何が「本物」で何がそうでないかを区別する能力、つまり AI によって書かれたものを検出する能力はより困難になるでしょう。これは、社会のほぼすべての業界や分野、さらには個人的な関係に大きな影響を与えるでしょう。確認するコンテンツライターまたは編集者として AI を使用する責任ある方法.

サイバーセキュリティとプライバシーに対する人工知能の影響

何かがチャットボットによって作成されたのか人間によって作成されたのかを判断するための信頼できるメカニズムがないという事実は、サイバーセキュリティとプライバシーに重大な影響を及ぼします。

攻撃者はすでに ChatGPT を使用して、マルウェアの作成、フィッシングメールの作成、スパムの作成、詐欺 Web サイトの作成などを行っています。これを防ぐ方法はありますが、オーガニックコンテンツとボットコンテンツを確実に区別できるアプリがないことは確かに問題です。

フェイクニュースも本当に大きな問題です。生成 AI を導入すると、偽情報エージェントは前例のない方法で作戦を拡大できます。一方、一般の人には、オンラインで読んだ内容がチャットボットによって生成されたのか、人間によって生成されたのかを知る方法はありません。確認する AI がサイバー犯罪者を助ける方法.

AI Detector である GPTZero は、米国憲法は AI によって書かれたと考えています。
建国の父たちは時代を先取りしていました 😂 pic.twitter.com/dsXqZOJxSz
— バーシー 🐶 (@heyBarsee) 2023 年 3 月 4 日

プライバシーはまったく別の問題です。 ChatGPT を例に考えてみましょう。公開前に 300 億語以上の単語が入力されました。このコンテンツは書籍、ブログ投稿、フォーラム、記事、ソーシャルメディアサイトから抜粋されたものです。それは誰の同意もなく、一見プライバシーと著作権保護を完全に無視して収集されました。

次に、誤検知の問題もあります。コンテンツが誤って AI によって生成されたものとしてフラグ付けされた場合、それは検閲につながる可能性はありませんか? それはいずれにせよ大きな問題です。言うまでもなく、AI が生成したテキストを使用したとして告発される損害は、オンラインと実生活の両方で編集者の評判を傷つける可能性があります。

実際に生成 AI とコンテンツ検出器の間で軍拡競争が起こった場合、前者が勝者になります。さらに悪いことに、解決策はないようです。私たちの中途半端な製品はどれもうまく機能しないか、簡単にだまされます。確認するコンテンツライターが AI ライティングツールよりも優れたパフォーマンスを発揮できる方法.

AI コンテンツを発見する方法: 潜在的なソリューション

この問題に対する本当の答えが現時点ではないからといって、将来的に何も答えられないというわけではありません。実際、機能する可能性のある深刻な提案がすでにいくつかあります。ウォーターマークもその1つです。

AI と深層言語モデルに関して言えば、透かしとは、AI が生成したテキスト (単語パターンや句読点パターンなど) にある種の秘密のコードを埋め込むことを指します。このような透かしは肉眼では見えないため削除することはできませんが、専用のアプリを使用すれば検出できます。

実際、2022 年に彼は、メリーランド大学の研究者人工ニューラルネットワーク用の新しい透かし手法。主任研究者のトム・ゴールドスタイン氏は当時、彼のチームは透かしを完全には除去できないことを「数学的に証明」できたと述べた。

今、凡人ができることは、本能と常識に頼ることだけだ。あなたが読んでいるコンテンツに何か不自然、繰り返し、創造的ではない、またはありふれたものがあると思われる場合、それはボットによって生成された可能性があります。もちろん、オンラインで見る情報をすべて確認し、ソースを再確認し、疑わしい Web サイトには近づかないようにする必要があります。確認する AI 創作物の著作権は誰が所有しますか?これらの芸術作品に対して著作権はどのように作用するのでしょうか?