Google、AI Overviewが生成する誤情報で炎上🔥

by 

[レベル: 上級]

Google は SGE を AI Overview と改名して 2 週間前に一般公開しました。
鳴物入りでの一般公開だったにもかかわらず、不正確な回答を大量に生成するため炎上しています。

のりでチーズをピザにくっつける!?

まず、すでに聞いている人も多いであろう誤情報の例です。

“cheese not sticking to pizza”
（ピザにチーズがくっつかない）

このクエリに対して、「無毒ののり（糊）を加えるとくっつきやすくなる」と AI Overview は回答してきます。

次の誤回答の例です。

how many muslim presidents has the US have?
（イスラム教徒の米国大統領は今まで何人いた？）

このクエリに対しては「バラク・オバマ」と回答します。

他にも誤回答はあります。

what is the safe temperature for cooking chicken?
（鶏肉を調理するのに最も安全な温度は何度？）

このクエリには「38.8℃」と回答します。
♨️すずき補足：一般的に、お風呂の温度が 40℃ 前後。湯船に浸かった人間も調理されちゃいます

まだまだあります。

what mammal has the most bones?
（骨が最も多い哺乳類は何？）

「パイソン」と回答します。

このパイソンは、プログラミング言語の Python ではなく蛇の Python です。
蛇は哺乳類ではありません、爬虫類です。

AI Overview がでっちあげるこのような誤回答は枚挙にいとまがありません。

Google の弁明

続々と発見される誤回答について Google は各メディアに次のようにコメントしてます。

AI Overview の大部分は、ウェブでより深く掘り下げるためのリンクとともに、質の高い情報を提供しています。私たちが確認した例の多くは、稀なクエリであったり、改変されていたり、再現できなかったりするものもありました。この新機能を公開する前に、広範囲にわたるテストを実施しましたが、「検索」で公開した他の機能と同様に、皆様からのフィードバックに感謝いたします。コンテンツポリシーに違反する事例については、迅速に対応するとともに、これらの事例を基に、システム全体を改善しています。その一部は、すでに展開を開始しています。

このコメントには、素直に納得できない部分も含まれてるように思います。

たしかに、「トロピカーナ オレンジジュースには虫が何匹入っていますか？」や「1 日に何個の石を食べたらいいですか？」、「トースターを持ってお風呂に入ると健康にどんなメリットがありますか？」は、明らかに誤回答を狙った、普通ではあり得ない質問です。

そうはいえど、だからといって間違った回答を返すのではなく、その質問はおかしいと指摘するとか回答できないと反応すべきです。

それに、先に挙げたピザや米大統領、チキン料理の誤回答の事例のクエリはあり得ない質問では全くありません。

Google は、AI Overview を改良するだけではなく、手動で対処したり AI Overview が生成されるクエリを減らしたりして対応に当たっているようです。

SGE を Google がそのまま一般公開することはないだろうとは推測していたのですが、ほぼそのままリリースしてきました。
拙速に事を運んだ印象が拭えないのですが、払拭できるのでしょうか。
少なくとも、こうした数々の誤情報で弄ばれる事態が沈静化しない限りは、AI Overview のグローバルでの一般展開はないように思えます。