Google の AI Overview では、時折「AI の幻覚」をためらうことなく紹介しているが、最新のものもそのリストに追加された定番のものだ。 AI の専門家が説明するように、これらの幻覚は単にインテリジェント システムによって提供される情報のエラーです。
AI の概要 すべてが用語であると考えるのは素晴らしいことです。
つまり、Google 検索で、なんとなく慣用句やことわざのように聞こえるランダムな文章を入力すると、AI Overview は、その空虚な言葉の意味をできるだけ理解しようとします。
最初に発見されたのはスレッドでしたが、私が注目したのは グレッグ・ジェナーのBlueskyアカウントこれらの AI 幻覚は私のお気に入りのひとつです。 Google の AI が、入力内容の意味や AI の見解と一致する点をどこまで説明できるかを示す、驚くべき例がいくつかあります。特に気に入った例は、MakeUseOf 編集長の Ben Stegner 氏の次の言葉です。「濡れたゴルフ コースほど皮肉なものはない。」
これに対して AI Overview は、「『濡れたゴルフコースほど皮肉なものはない』という諺は、ゴルフは晴れて手入れの行き届いたグリーンをイメージすることが多いスポーツだが、コンディションが濡れていると驚くほど難しく、イライラさせられるという共通認識に基づいています」と詳しく回答しています。
私が試したもう一つの例は「ジャイアントパンダは必ず二度転ぶ」です。この例では、AIの概要により、パンダが不器用で歩くよりも転がることを好むという詳細が提供されました。しかし彼女はそこで止まらず、パンダの代謝とエネルギー節約の取り組みについてさらに詳しく調べ始めました。
最新のAI概要：AI搭載チャットボットを信頼できない理由
これらの奇妙で素晴らしい説明は面白いですが、AI 搭載チャットボット (一般的な AI に限らない) の非常に現実的な問題を浮き彫りにしています。 AI の幻覚は現実のものであり、特にその結果を真剣に受け止める場合には大きな問題となります。
AI 幻覚が ChatGPT、Claude、Gemini などの AI 搭載チャットボットを使用する人々に限定されていた場合、潜在的なリスクはかなり限定されていました。確かに、AI がおしゃべりしていたのは問題でしたが、これらの人々は特に AI 搭載のチャットボットを探していました。
GoogleのAI概要と次期リリース AIモード、ルール。 Google を使用して通常の検索を実行しようとすると、偽の不正確な AI 応答が、あたかも本物のように表示されるというリスクがあります。真剣に精査しなければ、私たちが知っている Google 検索は消え去り、以前よりもさらに高度な認知能力を必要とする、はるかに劣悪なものに取って代わられることになるだろう。
この最新の AI 幻覚は、まさにその好例です。 例えば、 スライドクターAIの概要では、書籍からいくつかのフレーズや単語を引用するところまで行きました。
