[レベル: 中級]
Google Discover における AI 生成の見出しおよびトピック概要が、実験ではなく恒久的な機能であることを The Verge が Google に確認しました。
複数ソースにまたがる情報探索、見出しと概要は AI 生成
同一トピックについて複数ソースにまたがってフィードに表示する機能が Discover で提供されています。
こちらの Discover カードの上部には「Reuters +12」と出ています。
ChatGPT 利用の年齢制限導入に関する記事を 12 件まとめています。
このカードの見出しと概要は AI が生成しています。
こちらは、ナショナルジオグラフィックほか 8 記事をまとめた Disocver カードです。
同様に、見出しと概要は AI 生成です。
このカードに関しては、メインの掲載元パブリッシャーとしてナショナルジオグラフィックの名前が出ているもののサムネイル画像は日経BP の記事から取得されています。
これくらいなら特に問題はないのですが、AI 生成の見出しと概要がクリックベイトに近かったり記事内容に反しているケースが発生しています。
事実誤認の AI 生成カード
The Verge は、いくつかの注目度の高い AI のハルシネーションを例として挙げています。
次のようなものです。
- 誤った政策主張：「米国が外国製ドローンの禁止を撤回」と Discover の見出しに出ていたが、リンク先の PCMag 記事は、禁止は 撤回されていない と明確に述べていた。
- 不正確な技術仕様：「Steam Machine の価格と HDMI の詳細が明らかに」と AI 生成概要は断言したが、Valve はそのような詳細を共有していなかった。
- 古い情報：3D デモについての The Verge の記事が「Lego Smart Play が 3 月 1 日に発売」という見出しに変更されたが、その日付はすでに古いニュースだった。
こうした状況に対してジャーナリストたちは、誌面の表紙にも相当する記事の見出しに対するコントロールを AI が奪い、ときに緻密に練られた見出しを退屈または的外れな要約に置き換えていると非難しています。
テストではなく正式な機能
AI が Discover の見出しを間違って書き換えるという事例は昨年 12 月にも発生していました。
この時点では AI 生成は小規模な試験実験でした。
ほどなく終了しました。
しかしながら、AI による見出しおよび概要の生成は正式機能として導入されたと Google は The Verge にコメントしています。
この記事を書いている時点では、複数ソースをまとめたカードは僕の Discover には出てこなくなっています。
もし本当に正式導入であれば、同じように、意図しない見出し書き換えや不正確な概要生成が発生してしまうかもしれません。
Discover が重要なトラフィック源になっているサイトの管理者は注視してください。