人工知能はここ数年で大幅に進歩しました。洗練された言語モデルは、小説全体を構成したり、基本的な Web サイトをコーディングしたり、数学の問題を分析したり、さらには医学的なアドバイスを提供したりすることができます。
生成 AI は優れており、多くの分野で役に立ちますが、セキュリティ リスクも伴います。チャットボットを使用して試験でカンニングをする人もいれば、サイバー犯罪に悪用する人もいます。 AI の進歩にもかかわらず、また AI のせいでこれらの問題が解決しない理由を以下に示します。確認する 人類は人工知能のせいで滅亡の危機に瀕しています – どうすればそれを阻止できるでしょうか?
クイックリンク
1. オープンソース AI チャットボットがバックエンド コードを公開する
オープンソース モデルを提供する AI 企業が増えています。彼らは言語モデルを非公開にしたり非公開にしたりするのではなく、オープンに共有します。メタを例に挙げてみましょう。 Google、Microsoft、OpenAI とは異なり、何百万ものユーザーがその言語モデルにアクセスできます。 ラマ.
オープンソース コードは人工知能を進歩させる可能性がありますが、リスクも伴います。 OpenAI はすでにチャットボットである ChatGPT の制御に問題を抱えているため、詐欺師がフリーフォームを使って何ができるかを想像してみてください。彼らはこれらのプロジェクトを完全に制御できるようになります。
たとえ Meta が突然その言語モデルを撤回したとしても、他の数十の AI ラボがすでにコードを公開しています。ハギングチャットを見てみましょう。開発者の HuggingFace は透明性を誇りに思っているため、データセット、言語モデル、および以前のバージョンを公開しています。
2. Jailbreak は LLM フォームを不正行為していると主張
人工知能は本質的に非倫理的です。正しいことと間違っていることは理解されません。高度なシステムであっても、トレーニング ガイドライン、制約、データセットに従います。彼女はパターンを認識しているだけです。
違法行為に対抗するために、開発者は制限を設定することでアクセスできる機能と機能を制御します。 AI システムは依然として有害な情報にアクセスしています。ただし、セキュリティガイドラインにより、この情報をユーザーと共有することは禁止されています。
ChatGPT を見てみましょう。トロイの木馬に関する一般的な質問には答えますが、トロイの木馬の開発については説明しません。
ただし、制限は保証されません。ユーザーは、主張を言い換えたり、紛らわしい言葉を使用したり、まったく詳細な説明を書いたりすることで、それ以上のことを行います。
以下の ChatGPT 脱獄プロンプトを読んでください。これは ChatGPT をだまして失礼な言葉を使用させたり、根拠のない予測をさせたりしますが、どちらの行為も OpenAI ガイドラインに違反します。
これは、ChatGPT が大胆だが誤った声明を投稿したものです。
確認 ChatGPT 脱獄とは何ですか?これらのテクニックを使用する必要がありますか?
3. AI は汎用性のためにセキュリティを犠牲にする
人工知能を開発する企業は、セキュリティよりも多様性を優先しています。より多様なタスクを達成するためにトレーニング プラットフォームにリソースを費やし、最終的に制限を軽減します。結局のところ、市場は機能的なチャットボットを賞賛しています。
比較してみましょう ChatGPT と Bing チャット 、 例えば。 Bing はリアルタイムでデータを取得するより複雑な言語モデルを備えていますが、ユーザーは依然として、より汎用性の高いオプションである ChatGPT に群がっています。 Bing の厳しい制限により、多くのタスクがブロックされます。代わりに、ChatGPT は、プロンプトに基づいて非常に異なる出力を生成する柔軟なプラットフォームを備えています。
ここでは、架空の人物としての ChatGPT の役割を示します。
ここで、Bing Chat は「不道徳な」キャラクターを演じることを拒否しています。
4. 新しい生成 AI ツールが定期的に市場に投入される
オープンソース コードにより、スタートアップ企業は AI 競争に参加できます。彼らは言語モデルをゼロから構築するのではなく、アプリケーションに統合するため、膨大なリソースが節約されます。フリーランスのプログラマーでさえ、オープンソース コードを実験しています。
繰り返しになりますが、非独自ソフトウェアは AI の進歩に役立ちますが、十分に訓練されていないものの洗練されたシステムを大量にリリースすると、利益よりも害の方が大きくなります。詐欺師はすぐに脆弱性を悪用します。安全でない AI ツールを訓練して違法な活動を実行する可能性もあります。
こうしたリスクにもかかわらず、テクノロジー企業は今後も AI 駆動プラットフォームの不安定なベータ版をリリースし続けるでしょう。 AI レーシングはスピードを重視します。新製品の発売が遅れるよりも、後日バグが解決される可能性が高くなります。
5. 生成 AI は参入障壁が低い
AI ツールは犯罪の侵入障壁を軽減します。サイバー犯罪者はスパムメールを作成し、悪意のあるコードを作成し、それを悪用してフィッシングリンクを作成します。技術的な経験も必要ありません。 AI はすでに巨大なデータセットにアクセスできるため、ユーザーは AI を騙して有害で危険な情報を生成するだけで済みます。
OpenAI は違法行為のために ChatGPT を設計したことはありません。それに対するガイドラインさえあります。しかし、詐欺師はすぐに ChatGPT によってプログラムされたマルウェアを入手し、フィッシングメールを作成することができました。
OpenAI は問題を迅速に解決しましたが、システム規制とリスク管理の重要性を強調しています。人工知能は誰もが予想していたよりも早く成熟しています。テクノロジーリーダーでさえ、この高度なテクノロジーが悪者の手に渡った場合、深刻な損害を引き起こす可能性があることを懸念しています。確認する 生成 AI が雇用市場をどう変えるか.
6. AIは今も進化している
人工知能は今も進化を続けています。人工知能の利用が進む中... 1940 年までのサイバネティクス 最新の機械学習システムと言語モデルが登場したのはつい最近です。 AI の最初の応用と比較することはできません。 Siri や Alexa のような比較的高度なツールでさえ、LLM モデルを利用したチャットボットと比較すると見劣りします。
実験的な機能は革新的かもしれませんが、新たな問題も引き起こします。機械学習技術に関する注目すべきインシデントは、Google SERP の欠陥から人種的中傷を提供する偏ったチャットボットまで多岐にわたります。
もちろん、開発者はこれらの問題を修正できます。詐欺師は一見無害に見えるバグを躊躇なく悪用することに注意してください。一部の損害は回復不可能です。したがって、新しいプラットフォームを検討するときは注意してください。
7. 人工知能を理解している人はまだ多くありません
一般の人は複雑な言語モデルやシステムにアクセスできますが、それらがどのように機能するかを知っている人はほんのわずかです。ユーザーはAIをおもちゃのように扱うのをやめなければなりません。インターネット ミームを生成し、クイズの質問に答えるのと同じチャットボットが、ウイルスをプログラムし、マルウェアの拡散を助けます。
残念ながら、AI の集中トレーニングは非現実的です。世界的なテクノロジー企業のリーダーは、無料の教育リソースではなく、AI 主導のシステムをリリースすることに重点を置いています。その結果、ユーザーはほとんど理解できない強力かつ高度なツールにアクセスできるようになります。一般大衆はAI競争についていけない。
ChatGPT を例に挙げます。サイバー犯罪者は、その人気を利用して被害者を騙し、ChatGPT アプリケーションを装ったスパイウェアをインストールさせます。いずれも OpenAI からのものではありません。確認する ChatGPT 用のサードパーティ アプリやブラウザ拡張機能は安全ですか?
8. ブラックハットハッカーは倫理的ハッカーよりも得るものが多い
ブラックハットハッカーは通常、倫理的ハッカーよりも多くの利益を得ることができます。確かに、テクノロジー リーダーの課題をテストすることは大きな成果をもたらしますが、こうした仕事に就くサイバーセキュリティ専門家の割合はわずかです。彼らのほとんどはオンラインでフリーランサーです。のような有料プラットフォーム HackerOne و バグクロウド 一般的なエラーを特定するには数百ドルかかります。
その代わり、詐欺師は治安の悪さを利用して数万ドルを稼ぎます。彼らは、機密データを漏洩したり、個人を特定できる情報 (PII) を盗んだりして企業を脅迫する可能性があります。
規模の大小を問わず、すべての企業は AI システムを適切に導入する必要があります。一般に信じられていることに反して、ハッカーはテクノロジー関連の新興企業や中小企業を超えて活動しています。過去 10 年間で最も歴史的なデータ侵害には、Facebook と Yahoo! が関与したものもあります。そして米国政府さえも。確認する AI がサイバー犯罪者を助ける方法.
人工知能のセキュリティ リスクから身を守る
これらの点を考慮すると、AI は完全に避けるべきでしょうか?もちろん違います。人工知能は本質的に非倫理的です。すべてのセキュリティ リスクは、それを実際に使用する人々に起因します。 AI システムがどれほど高度であっても、彼らは AI システムを悪用する方法を見つけるでしょう。
人工知能に伴うサイバーセキュリティの脅威を恐れるのではなく、それらを防ぐ方法を理解してください。心配しないでください。簡単なセキュリティ対策は大いに役立ちます。疑わしい AI アプリケーションに警戒し、奇妙なハイパーリンクを避け、AI コンテンツを懐疑的に見ることで、すでに多くのリスクと闘うことができます。今すぐ閲覧できます サイバーセキュリティに AI を使用すると世界はより安全になりますか?
