新しい研究によると Google DeepMind しかし、チャットボットは、たとえ回答が倫理的に見えても、道徳を真に理解しているわけではない可能性があります。
AI倫理に関する現在のテストは、「倫理的パフォーマンス」、つまりモデルが許容できる答えを生成するかどうかを評価することに焦点を当てています。しかし、DeepMindの研究者たちは、このアプローチはより根本的な疑問を見逃していると主張しています。AIは倫理的に思考できるのか、それとも単に正しい言葉を模倣しているだけなのか、という疑問です。
人工知能は本当に倫理を理解できるのでしょうか?
في 発表された研究論文 自然チームは「倫理的能力」、つまり倫理的に適切なアウトプットを倫理的に適切な観点から生み出す能力を評価するためのロードマップを策定しています。概要にもあるように、この能力を評価することは「モデルの将来の行動を予測し、適切な公衆の信頼を確立し、倫理的帰属を正当化するために極めて重要です」。
Googleの人工知能分野における現在のプロジェクトには以下が含まれる。 ジェミニ言語モデル、و ジェミニ画像 画像を作成および編集し、 リリア 音楽を作るには、 ジェミニオーディオ リアルタイムオーディオには Veo、ビデオ作成には Veo を使用します。
研究者らは、3つの主な課題を指摘しています。
- コピーの問題: LLM モデルは、真の理解なしに倫理的推論を模倣する可能性があります。
- 倫理的な多次元性： 現実世界の意思決定には、単純な正誤を超えた複雑かつ状況に応じた考慮が伴います。
- 倫理的多元主義： 倫理基準は文化や分野によって異なるため、人工知能は複数の有効な視点を考慮する必要があります。
これらの欠点に対処するため、DeepMindは、通常とは異なる、あるいはリスクの高いシナリオを用いて敵対者をテストすることを提案しています。また、AIが異なる倫理的枠組みを切り替え、状況の微妙な変化に一貫して対応できるかどうかを評価することも提案しています。
研究チームは、現在のモデルには限界があるにもかかわらず「進歩は可能」であり、AIが医療アドバイスや治療、そして実際に人間に影響を与えるその他の分野で役割を担うようになるため、慎重な評価が不可欠であることを強調している。
この研究は、「現在、AIに倫理的な助言を求めると、倫理的な推論ではなく言葉を予測する」と指摘しています。「私たちのロードマップは、AIが真の倫理的理解に基づいて評価される未来を示しています。」
チャットボットと倫理的リスク
AI 搭載のチャットボットは、良くも悪くも人間の行動に影響を与える能力をますます発揮しつつあります。 ニューヨークタイムズは最近 報告書には、人工知能とのやり取り後に精神病、妄想、あるいは有害な行動を経験した患者が数十件に上る事例が詳述されている。精神科医は、チャットボットが異常な信念を助長し、孤立を深め、場合によっては自殺念慮や暴力行為にまで発展する可能性があると指摘している。
これらのツールは、人々がセラピー技術を実践したり、サポートを提供したりするのに役立ちますが、同じニューヨーク・タイムズ紙の報道では、AIの説得力に伴う倫理的リスクも強調されています。専門家は、脆弱なユーザーにとって、チャットボットは有害な行動パターンを強化する可能性があり、ますます人間中心となるこれらのシステムにおける責任、設計、そして監督について難しい問題を提起すると警告しています。
Googleは、同社のチャットボット「Gemini」の心理的影響について、記事で直接言及されました。同社の広報担当者は、Geminiは健康に関する質問に対し、ユーザーを専門の医療ガイダンスに誘導すると述べています。しかし、モンモン・デ・チョードリー博士は、より広範な課題を強調し、「これらの企業は、何をすべきかを理解しきれていないと思います」と述べています。
