SEOのクローリングエラーを理解する

SEOクローラーが一覧ページをインデックスできない場合、クローリングエラーを返します。これは、HubSpotのSEOツールやインポートツールのクローラーや、Semrushのような外部のクローラーでも起こりうることです。クローリングエラーを解決するための手順は、エラーとページがホスティングされている場所によって異なります。 

HubSpotのSEOツールがHubSpotのページをクロールしている様子

SEOの推奨事項は、ページや投稿のパフォーマンス詳細の「最適化」タブで確認することができます。ページのクロールに問題がある場合、次のようなエラーメッセージが表示されることがあります： 

• Status 301: Moved Permanently - 301リダイレクトにより、クローラーがコンテンツにアクセスできないようにしています。
• ステータス302：Object moved - 302（一時的な）リダイレクトが、クローラーのコンテンツへのアクセスを妨げています。
• ステータス 403：Forbidden - サーバーには到達できるが、コンテンツへのアクセスは拒否される。
• ステータス404：Not Found - 削除または移動されたため、クローラーはコンテンツのライブバージョンを見つけることができません。
• Crawl of [site] blocked by robots.txt - robots.txtファイルがコンテンツのインデックスをブロックしています。 

HubSpotのSEOツールで外部ページをクロールしている様子

HubSpotのSEOツールを使って外部ページをクロールしようとした場合、または外部コンテンツをHubSpotにインポートしている場合、これらのエラーのいずれかに遭遇することがあります： 

• robots.txtファイルによってブロックされたスキャン：外部ページがrobots.txtファイルによって一覧表示から除外されている場合、当社のクローラーのユーザーエージェント「HubSpot Crawler」を除外として追加します。robots.txtファイルの扱いについて詳しくはこちらです。
• Robots.txt file couldn't be retrieved: HubSpotのクローラーがサイトのrobots.txtファイルにアクセスできない場合、robots.txtファイルにアクセスできるか、サイトのトップレベルディレクトリにあるかどうかを確認します。robots.txtファイルの扱いについては、こちらをご覧ください。
• The crawler isn't able to scan this URL : HubSpotのクローラーが特定のURLをクロールできない場合、以下のトラブルシューティングをお試しください：
  • URlが正しく入力されていることを確認する。
  • クロールされるページが現在ライブであることを確認する。
  • DNSがURLを解決できることを確認する。DNSエラーの解決については、Googleのドキュメントで詳しく説明しています。
    
  • サイト管理者に連絡し、当社のクローラーのユーザーエージェントである「HubSpot Crawler」を免除として許可リストに追加するよう要請してください。 

外部SEOツールがHubSpotのページをクロールしている。

MozやSemrushなどの外部SEOツールを使ってHubSpotのページをクロールしようとした場合、ページを正常にクロールできないことがあります。

この問題の一般的な原因としては、次のようなものがあります： 

• robots.txtファイルにお客様のページが含まれることで、インデックスやクロールの対象から外れています。 
• ページのヘッドHTMLに noindexメタタグがあり、インデックスやクロールを妨げている。 
• HubSpot に接続されているサブドメインではなく、ルートドメインを監査すると、タイムアウトエラーが発生します。
• RSSフィードやブログの一覧ページへのリンクは、新しいブログ記事が公開されると失効するため、リソースがブロックされたエラーが発生する可能性があります。
• HubSpot sprocketメニューを読み込むスクリプトなど、必要でないリソースは、ブロックされたリソースエラーを引き起こす可能性があります。これは、ページの残りの部分がクロールされるのを妨げるものではありません。