全サイトのモバイルファーストインデックス移行後もパソコン用Googlebotはクロールを続ける

[レベル: 上級]

2021 年 3 月末に、すべてのサイトをモバイル ファースト インデックス(以下、MFI)へ移行することを Google は予定しています。

全サイトが MFI に移行した後でも、パソコン用 Googlebot はウェブページのクロールを続けます。
廃止になることはありません。

すべてのサイトのメインクローラがスマートフォン用 Googlebotに

ご存知のように、MFI ではスマートフォン用 Googlebot がメインクローラになります。
スマートフォン用 Googlebot がクロールしたページをインデックスし、ランキングを決定するために用います。

パソコン用 Googlebot がクロールしたページはインデックスされないことになるので、もはや役目は終わったように思えます。
しかしながら、パソコン用 Googlebot を廃止する予定はないとのことです。
Google 社員に確認しました。

理由はいくつかあります。

たとえば、別々の URL でモバイル向けサイトを配信している場合は、モバイル向けページと PC 向けページを正しく対応付けているかどうかを確認するために パソコン用 Googlebot が PC 向けページをクロールする必要があります。

また、検索以外のほかのプロダクトでも Googlebot は利用されています。
そうしたプロダクトのなかには依然としてパソコン用 Googlebot に頼っているものもあります。
MFI に完全に切り替わったからと言ってすぐに廃止することはできないのです。

スマホ用 Googlebot がクロールできればインデックスされる

Web担当者Forum の連載コラムで『スマホで見られないページは2021年にグーグルから消える!? MFI強制移行で?』というトピックを取りあげました。

記事の中でも指摘したように、スマホ対応していないサイトがインデックスされなくなる可能性がある、言い換えれば検索結果に出なくなるわけではありません。
スマホから閲覧できないページがインデックスされなくなる可能性が高いのです。

技術的に正確に言えば、スマートフォン用 Googlebot がクロールできないページがインデックスされなくなります。

パソコン用 Googlebot は稼働し続けますが、(検索に関して言えば)補助的な役割です。
インデックス対象になるのは、スマートフォン用 Googlebot がクロールしたページです。

MFI 移行したサイトでは、スマホ用 Googlebot と PC 用 Googlebot のクロールの割合がだいたい 8:2 になっています。
2021 年 3 月末に MFI 強制移行が実行されたあとは、すべてのサイトがこの割合になるでしょう。

つまり、MFI の準備ができていなかったとしても、MFI 移行したサイトと同じようにクロールされるわけです。

MFI に未移行のサイトは再度確認を

レスポンシブ ウェブ デザインのサイトは、通常はモバイル向けと PC 向けは同じページです。
本質的に、MFI に対応できています。

「動的な配信」と「別々の URL」の構成では、モバイル向けと PC 向けで異なるページを配信するため注意が必要です。
ありがちなのは、次のようなケースです。

  • モバイル向けページで記事を省略している
  • モバイル向けページに画像がない、あるいは小さい(質が悪い)
  • モバイル向けページの画像に alt 属性がない
  • モバイル向けページに構造化データがない

こうしたページはインデックスから消えることはないにせよ、検索結果に悪い影響が出そうです。

モバイル向けページを robots.txt でブロックしていたり、noindex を設置していたらインデックスから消えます。
たとえ、スマホからアクセスできたとしてもです(繰り返しますが、判断基準になるなのはスマートフォン用 Googlebot のアクセスであって、ユーザーが使うスマホからのアクセスではない)。

MFI への移行が完了していないサイトの管理者は、Google が提供する MFI 移行のベストプラクティスを今いちど確認しておきましょう(日本語ページは最新版ではないので、オリジナルの英語ページも参照すること)。