アクセスログでGooglebotのクロール分析 - asoview! Tech Blogアソビュー！ Advent Calendar 2020 の19日目の記事です。 休日の便利でお得な遊び予約サイト「アソビュー！」のSEOを担当している西本です。先日「December 2020 Core Update」が発表されましたが、Googleのアルゴリズム更新に右往左往してしまうのはSEO担当者の宿命だな、と思う今日この頃です。 今回は大規模サイトのSEOにおいて重要と考えている、Googlebotのクロール状況の分析についてです。先日SearchConsoleの「クロールの統計情報レポート」がリニューアルされとても便利になりましたが、それ以前からアソビュー！で実施している分析の内容について書きます。 目的 「クロールバジェット」と言われたりしますが、Googlebotはサイト内の全てのページを必ずしもクロールするわけではなく、一定のリソースの範囲内でしかクロールしないと言われてい
