ChatGPT は強力で高速に動作する新しい AI チャットボットですが、いくつかの重大な欠点があることを多くの人が指摘しています。何でも質問すると、大量のオンライン データに関するトレーニングで得た知識と文章作成スキルを備えた人間が作成したような答えが得られます。
しかし、インターネットと同じように、事実とフィクションの境界線は確かに流動的であり、ChatGPT は何度かそれを誤るという罪を犯してきました。 ChatGPT が私たちの未来を変えようとしている今、それに関する私たちの最大の懸念をいくつか挙げます。確認する ChatGPT にはプライバシーの問題がありますか?
クイックリンク
ChatGPTとは？
ChatGPT は、人間の会話によく似た応答を生成するように設計された自然言語モデルです。誰かと議論するのと同じように、ChatGPT に話しかけることができます。ChatGPT は、あなたが過去に言ったことを覚えていると同時に、質問されたときの応答を修正することもできます。
これは、ウィキペディア、ブログ投稿、書籍、学術論文など、インターネット上のあらゆる種類のテキストでトレーニングされています。これは、人間のような方法であなたに反応するだけでなく、現在の世界に関する情報を思い出したり、過去から歴史的な情報を抽出したりできることを意味します。
ChatGPT の使用方法を学ぶのは簡単ですが、AI システムが問題なく動作していると思われてしまいがちです。しかし、発売後の数か月で、世界中のユーザーが AI チャットボットを限界まで押し上げ、いくつかの大きな問題が明らかになりました。
1. ChatGPT は間違った回答を生成します
ChatGPT は基本的な数学に失敗し、単純な論理的な質問に答えることができないようで、完全には真実ではない事実について議論することさえあります。ソーシャルメディアの人々が証言しているように、ChatGPT は複数の場合に問題を起こす可能性があります。
会社を知っていますね OpenAI この制限について、私は次のように書きました。「ChatGPT は、合理的であるように見えても、間違っているか、意味をなさない回答を書くことがあります。」私が言う、この事実とフィクションの「幻覚」は、医学的アドバイスや重要な歴史的出来事について事実を正しく理解することなどに関しては特に危険です。
Siri や Alexa などの他の AI アシスタントとは異なり、ChatGPT は回答を決定するためにインターネットを使用しません。代わりに、彼はトレーニングに基づいて、次に来る可能性が最も高い「トークン」を選択して、単語ごとに文を構築します。言い換えれば、ChatGPT は一連の推測を行うことで答えに到達します。これが、間違った答えをあたかも絶対的に正しいかのように主張する理由の 1 つです。
複雑な概念を説明するのに優れており、学習のための強力なツールとなっていますが、書かれていることをすべて信じないことが重要です。 ChatGPT は必ずしも正しいとは限りません — 少なくともまだは。確認する ChatGPT はジョークを言うことができますが、AI は実際に私たちを笑わせることができるのでしょうか?
2. ChatGPT のモデルにはバイアスがあります
ChatGPT は、過去と現在、世界中の多くの人々によって書かれたクラウドソースのテキストに基づいてトレーニングされています。残念ながら、これは、現実世界に存在するのと同じバイアスがモデルにも現れる可能性があることを意味します。
ChatGPT は、性別、人種、少数派を差別するひどい回答を生成することがわかっており、同社はそれを軽減しようとしている。
この問題を説明する 1 つの方法は、データが問題であると指摘し、オンラインやその他の地域に存在する偏見を人類のせいにすることです。しかし、責任の一端は OpenAI にもあり、OpenAI の研究者と開発者は ChatGPT のトレーニングに使用されるデータを選択します。
繰り返しになりますが、OpenAI はこれが問題であると認識しており、不正な ChatGPT 出力にフラグを立てるよう奨励されているユーザーからのフィードバックを収集することで、いわゆる「偏った動作」に対処していると述べています。
人々に害を及ぼす可能性があるため、これらの問題が研究され解決されるまで ChatGPT を一般公開すべきではないと主張することもできます。しかし、最も強力な AI ツールを発売する最初の企業になるための競争は、OpenAI がそのような警戒を打ち消すのに十分かもしれません。
対照的に、Google の親会社である Alphabet が所有する Sparrow と呼ばれる同様の AI チャットボットは 2022 年 XNUMX 月に発売されました。しかし、同様の安全上の懸念から、意図的に密室に保管されていました。
同じ頃、Facebook は学術研究を支援することを目的として、Gaoptica と呼ばれる AI 言語モデルをリリースしました。科学研究に関連して誤った偏った結果を生み出しているとして多くのユーザーから批判されたため、すぐに撤回されました。
3. ChatGPT は人間から仕事を奪う可能性がある
ChatGPT の迅速な開発と展開をめぐる誇大宣伝はまだ収まっていませんが、この基礎となるテクノロジがすでに多くの商用アプリケーションに統合されていることがわかります。 GPT-4 を統合したアプリには、Duolingo と Khan Academy があります。確認する GPT-4 モデルをコアに統合したアプリケーションですが、どのように動作するのでしょうか?
前者は新しい言語を教えることに特化したアプリケーションであり、後者は多くのトレーニング コースを提供する多様な教育ツールです。どちらも、学習中の言語で話すことができる AI を活用したキャラクターの形で、本質的には AI 家庭教師のようなものを提供します。または、学習と進歩に関する個別のフィードバックを提供できる AI 家庭教師として。
一方で、これにより学習方法が変わり、教育がより身近になり、スキルを習得するプロセスが少し簡単になる可能性があります。しかし、その欠点は、人間が長年担ってきた仕事を奪うことです。
テクノロジーの進歩は常に雇用の喪失につながりますが、AI の進歩のスピードは、多くの業界が同じ問題に直面していることを意味します。教育からイラストレーション、顧客サービスの役割に至るまで、ChatGPT とその基礎となるテクノロジーは現代世界を根本的に再構築するでしょう。確認する 生成 AI が雇用市場をどう変えるか.
4. ChatGPT は学校で使われている言語に挑戦できます
ChatGPT に自分の文章を校正してもらったり、段落を改善する方法を指摘してもらったりすることができます。あるいは、方程式から自分自身を完全に削除して、ChatGPT にすべてを書いてもらうこともできます。
教師たちは英語の課題を ChatGPT に入力することを実験しており、多くの生徒よりも良い答えが得られました。カバーレターの作成から有名な文学作品の主要テーマの説明まで、ChatGPT はすべてをためらうことなく行うことができます。
ここで疑問が生じます: ChatGPT が私たちの代わりに書くことができるなら、学生は将来タイピングを学ぶ必要があるでしょうか?実存的な質問のように思えるかもしれませんが、学生が小論文を書くのに ChatGPT を使い始めると、学校はすぐに答えを考えなければならなくなります。近年の人工知能の急速な普及は多くの業界に衝撃を与えることになり、教育もその一つにすぎません。
5. ChatGPT は世界に実害をもたらす可能性があります
前に、ChatGPT からの誤った情報が現実世界でどのように害を及ぼす可能性があるかについて説明しました。その一例として、誤った医療アドバイスがあります。しかし、他の懸念もあります。
自然なテキストを生成できる速度により、詐欺師がソーシャル メディア上で知り合いになりすますことが非常に簡単になります。同様に、機密情報を抽出することを目的としたフィッシングメールを検出することはより困難になりますが、ChatGPT では文法上の誤りのないテキストを生成できるという利点もあります (これまでは明らかな危険信号でした)。
虚偽の情報の拡散も深刻な問題です。 ChatGPT がテキストを生成できる規模と、間違った情報を説得力のあるように正しく見せかける機能が相まって、インターネット上の情報がより疑わしいものになることは確実です。
ChatGPT が情報を生成する速度は、日常の質問に対する有効な回答を提供することに特化した Web サイトである Stack Exchange ですでに問題を引き起こしています。 ChatGPT が開始されて間もなく、ユーザーは ChatGPT に生成を依頼した回答をサイトに大量に送り込み始めました。
バックログを整理するのに十分な人間のボランティアがいないと、高レベルの高品質な回答を維持することは不可能になります。言うまでもなく、答えの多くは単純に間違っていました。ウェブサイトへの損害を避けるため、ChatGPT で生成されたすべての回答はブロックされています。確認する 子供が ChatGPT を安全に使用できる方法.
6. OpenAI は強力なパワーを持っています
大きな力には大きな責任が伴い、OpenAI は大きな力を持っています。同社は、Dall-E 2、GPT-3、GPT-4 など、XNUMX つではなく複数の AI モデルで世界を揺るがした最初の AI 企業の XNUMX つです。
OpenAI は ChatGPT のトレーニングに使用されるデータを選択しますが、この情報は公開されていません。私たちは、ChatGPT がどのようにトレーニングされたか、どのようなデータが使用されたか、データの出所、システム アーキテクチャがどのようなものであるかについて、詳細をまったく知りません。
OpenAI は安全性を最優先事項と考えていますが、良くも悪くも、モデル自体がどのように機能するかについてはわかっていないことがたくさんあります。コードはオープンソースであるべきだと信じるか、コードの一部は秘密にしておくべきだと考えるかにかかわらず、それに関して私たちができることはあまりありません。
結局のところ、OpenAI が責任を持って ChatGPT を研究、開発、使用することを盲目的に信頼する必要があります。この手法に同意するかどうかに関係なく、OpenAI は独自の目標と倫理基準に従って ChatGPT の開発を継続します。確認する OpenAI は本当に ChatGPT チャットボットの制御を失ったのでしょうか?
人工知能の最大の問題に対処する
ChatGPT には楽しみな点がたくさんありますが、その即時の使用を超えて、理解する価値のある深刻な問題がいくつかあります。 OpenAI は、ChatGPT が悪意のある偏った回答を生成する可能性があることを認めており、ユーザーのフィードバックを収集することで問題を軽減したいと考えています。しかし、事実が間違っている場合でも、説得力のある文章を生成するその能力は、悪意のある人々によって簡単に利用されてしまいます。
新しいテクノロジーでは、将来どのような問題が発生するかを予測するのは困難です。したがって、使用するのは楽しいかもしれませんが、ChatGPT の言うことをすべて信じないように注意してください。今すぐ閲覧できます ChatGPT は信頼できる健康情報を提供できますか?
