[レベル: 上級]
Google は現在、Discover で、パブリッシャーによるオリジナルの見出しを AI が生成したバージョンに置き換えるという限定的な実験を行っています。
ところが、これらの自動的に書き換えられた見出しは、頻繁に誤解を招くものであったり、事実と異なっていたり、意味不明であったりするとの批判も出ています。
実験的な機能
The Verge によると、Google は、トピックをより理解しやすくすることを理論上の目的として、元の記事見出しを AI 生成テキストに置き換える「一部の Discover ユーザーを対象とした小規模な UI 実験」を実施していることを認めました。
問題のある書き換え
しかし、この Discover の見出し書き換えには多くの問題が発生しているようです。
- 事実と異なる見出し: 価格が公表されていないことを明記した記事に対して「価格が判明」とするなど、事実と異なる見出しを生成する。
- 誤解を招くクリックベイト: しばしばニュアンスを排除し、特定の限定的な話を誤解を招く広範な主張に変換してしまう。たとえば、ある小売店一店舗での売上に関するレポートが「AMD 製 GPU が Nvidia を上回る」と書き換えられた。
- 意味不明な言い回し: AI が生成した見出しの中には、「Schedule 1 farming backup」や「AI tag debate heats」のように、支離滅裂であったり言語的に拙いものが存在する。
不適切な書き換えもさることながら、パブリッシャー自身で作成した見出しを許可なく書き換えること自体にも問題があるとの指摘も出ています。
実験の一時停止？
The Verge が報じた数日後に、書き換えられた Discover の見出しは元に戻ったとのことです。
一時的かもしれませんが Google は実験を停止したようです。
検索結果のタイトルリンクも Google が自動的に書き換えることがあります。
しかし、これは基本的には h タグやアンカーテキストなどページ上に存在するテキストから取得されます（それでも、おかしな書き換えになることはあるけれど）。
一方で、Discover の場合は、AI が見出しを独自に生成するという点で異なります。
もし書き換え実験が再開された場合、たとえ精度が改善されていたとしても、Discover フィードでのクリック率を上げるために入念に練られたタイトルを AI に書き換えられてしまう可能性は残されています。