FraudGPTとは何ですか?危険なチャットボットから身を守るにはどうすればよいでしょうか?

人工知能 (AI) の人気は諸刃の剣です。みんなと同じように破壊的な技術人工知能は膨大な可能性をもたらしますが、同時に壊滅的なリスクももたらします。 AI の規制が確実に推進されているにもかかわらず、脅威アクターはパニックを広げ、疑いを持たないユーザーを標的にするために、利用可能になったさまざまなテクノロジーを利用することができているようです。

FraudGPT と呼ばれる新しい ChatGPT スタイルのチャットボットは、サイバー犯罪者の間で注目を集めており、標準的な詐欺行為のかなりの部分を自動化して実行できるようになります。誰もが被害者になる可能性があるため、常に情報を得ることが重要です。

FraudGPT は、フェイクニュースの拡散や暴力の扇動など、さまざまな悪意のある目的に使用される可能性があります。個人情報を盗んだり、人々を騙したりするためにも使用される可能性があります。 FraudGPT についてこれまでにわかっていることはすべてここにあります。確認する ChatGPT を信頼して機密情報を共有してはいけない理由.

クイックリンク

FraudGPTとは何ですか?

FraudGPT は、サイバー犯罪者によるサイバー犯罪を支援するために微調整された大規模な言語モデルを搭載した AI ツールです。サブスクリプションベースのチャットボットを使用すると、脅威アクターは偽のカードの作成、フィッシング、マルウェアの作成などの犯罪行為を促進できます。

チャットボットの詳細はまだ非常に限られていますが、研究者らは... ネテンリッヒセキュリティ調査会社であるは、このモデルを宣伝する複数の広告をダークウェブ上に公開しました。 Netenrich の調査レポートによると、サブスクリプション料金は月額 200 ドルから年間 1700 ドルの範囲です。

ツールをよりわかりやすく視覚化するには、FraudGPT を ChatGPT と同じですが、さまざまな詐欺関連情報の提供に特化していると考えることができます。しかし、FraudGPT は正確にどのように機能し、サイバー犯罪者はどのように使用するのでしょうか?

FraudGPT はどのように機能しますか?

FraudGPT の核心は、LLM によって実行されるモデルと大きく変わりません。言い換えれば、モデル自体は、犯罪者がサイバー犯罪を実行するために調整された特別なタイプの言語モデルにアクセスするための対話型インターフェイスです。

これが何を意味するのかまだわかりませんか?私たちが話していることの大まかなアイデアは次のとおりです。 ChatGPT の初期の頃、AI を活用したチャットボットは、サイバー犯罪者によるマルウェアの作成を支援するなど、ほぼあらゆる目的に使用できました。これが可能となったのは、ChatGPT の基礎となる言語モデルが、犯罪組織を支援する可能性のあるデータを含む、広範囲のデータからのサンプルを含む可能性が高いデータセットでトレーニングされたためです。

大規模な言語モデルには通常、科学理論、健康情報、政治などの良いデータから、マルウェアコードサンプル、ソーシャルエンジニアリングやフィッシングキャンペーンからのメッセージ、その他の犯罪資料などのあまり良くないデータまで、あらゆるものが入力されます。 ChatGPT をサポートする種類など、言語モデルのトレーニングに必要な種類のデータセットを扱う場合、モデルに不要な素材のサンプルが含まれることはほぼ避けられません。

通常、データセットから不要な素材を取り除くための慎重な努力にもかかわらず、一部は忍び込み、サイバー犯罪を促進する素材を生成する機能をモデルに与えるには通常十分です。そのため、適切なアジャイルエンジニアリングを使用すれば、ChatGPT、Google Gemini、Bing AI などのツールを活用して、フィッシングメールやコンピューターマルウェアの作成に役立てることができます。

これらのインテリジェントなチャットボットを安全にするためのあらゆる努力にもかかわらず、ChatGPT のようなツールがサイバー犯罪者の犯罪を手助けする可能性があるのであれば、FraudGPT のようなツールが提供できる力について考えてみましょう。ツールに特別に多くの有害な物質が供給されてきたことを考慮してください。サイバー犯罪の場合。これは、ChatGPT の邪悪な双子が強化されたようなものです。

したがって、犯罪者はチャットボットを使用する場合、ChatGPT の場合と同様にチャットボットを要求するだけで済みます。たとえば、ABC 社で働く Jane Doe にフィッシングメールを書くよう彼女に依頼したり、C++ を使用して Windows 10 コンピュータからすべての PDF ファイルを盗むマルウェアを作成するよう依頼したりする可能性があります。犯罪者は基本的に、 Evil にプロンプトを表示し、チャットボットに面倒な作業を任せます。確認する ChatGPT はサイバーセキュリティの脅威になるでしょうか?注意すべき点は次のとおりです.

どうすれば詐欺から身を守ることができますか?

新しいタイプのツールであるにもかかわらず、FraudGPT によってもたらされる脅威は根本的に変わりません。すでに確立されているサイバー犯罪実行方法にさらなる自動化と効率性をもたらすと言えるでしょう。

このモデルを使用する犯罪者は、少なくとも理論上は、より説得力のあるフィッシングメールを作成し、より優れた詐欺を計画し、より効果的なマルウェアを作成できるようになりますが、依然として、その極悪な計画を実行するためにほとんどが確立された手法に依存しています。その結果、通常は自分自身を守るために用意されている方法が引き続き適用されます。

情報を要求したり、リンクをクリックするよう誘導したりするスパムメッセージには注意してください。ソースを確認しない限り、これらのメッセージ内の情報を提供したり、リンクをクリックしたりしないでください。
正当性が確認された独立した番号を使用して企業に直接連絡します。不審なメッセージに含まれる連絡先情報は使用しないでください。
クラックが困難な強力で固有のパスワードを使用し、すべてのアカウントで利用可能な場合は 2 要素認証を採用します。送信されたパスワードやコードは決して共有しないでください。
疑わしいアクティビティがないかアカウント明細を定期的に確認してください。
アプリを常に最新の状態に保ち、ウイルス対策ツールやマルウェア対策ツールを使用します。
個人を特定できる情報や財務情報を含む文書は、必要がない場合はシュレッダーにかけます。

自分自身を守る方法について詳しくは、次のガイドをお読みください。人工知能の時代に身を守る方法.