Crawling infrastructure

Liste des robots d'exploration courants de Google

Les robots d’exploration courants de Google sont utilisés pour trouver des informations afin de construire les index de recherche de Google,
effectuer d’autres explorations spécifiques aux produits et pour l’analyse. Ils obéissent toujours aux
règles robots.txt
lors de l’exploration automatique. Les
propriétés techniques

générales des robots d’exploration de Google s’appliquent également aux robots d’exploration courants.
Les robots d’exploration courants explorent généralement à partir des plages IP publiées dans l’objet common-crawlers.json et le masque DNS inverse de leur nom d'hôte correspond à crawl-***-***-***-***.googlebot.com
ou.

Liste des robots d'exploration courants de Google

geo-crawl-***-***-***-***.geo.googlebot.com . La liste suivante présente les robots d'exploration courants, leurs chaînes d'agent utilisateur telles qu'elles apparaissent dans les requêtes HTTP, leurs jetons d'agent utilisateur pour la ligne User-agent:

Googlebot User-Agent
dans les requêtes HTTP
Googlebot Smartphone

Googlebot Desktop

  • Rarement :
  • Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)
Googlebot/2.1 (+http://www.google.com/bot.html)
robots.txtJeton User-agent dans robots.txt
Googlebot
Exemple de groupe robots.txtProduits affectés Les préférences d'exploration adressées à l'agent utilisateur Googlebot
Googlebot Image
User-Agent dans les requêtes HTTP
robots.txtJeton User-agent dans robots.txt

Googlebot-Image

Liste des robots d'exploration courants de Google — 2
Googlebot
Exemple de groupe robots.txtProduits affectés Les préférences d'exploration adressées à l'agent utilisateur Googlebot-Image
Googlebot Video
User-Agent dans les requêtes HTTP
robots.txtJeton User-agent dans robots.txt

Googlebot-Video

Googlebot
Exemple de groupe robots.txtProduits affectés Les préférences d'exploration adressées à l'agent utilisateur Googlebot-Video
Googlebot NewsUser-Agent dans les requêtes HTTP Googlebot-news n’a pas de chaîne d’agent utilisateur de requête HTTP distincte. L’exploration est effectuée avec.
diverses chaînes d’agent utilisateur Googlebot
robots.txtJeton User-agent dans robots.txt

Googlebot-News

Googlebot
Exemple de groupe robots.txtProduits affectés Les préférences d'exploration adressées à l'agent utilisateur Googlebot-News
affectent le produit Google News, y compris news.google.com
Google StoreBot
User-Agent dans les requêtes HTTP
Agent de bureau
Agent mobile
robots.txtJeton User-agent dans robots.txt
Storebot-Google
Produits concernésPréférences d’exploration adressées au Storebot-Google agent utilisateur affectent toutes les surfaces de Google Shopping (par exemple, l’onglet Shopping dans la recherche Google et
Google Shopping).
User-Agent dans les requêtes HTTP
Agent de bureau
Agent mobile
robots.txt
Jeton User-agent dans robots.txtGoogle-InspectionTool

Googlebot

Exemple de groupe robots.txt
Produits concernésPréférences d’exploration adressées au Google-InspectionTool agent utilisateur affectent les outils de test de recherche tels que le
Rich Result Test
et
Inspection d’URL
dans la Search Console. Cela n’a aucun effet sur la recherche Google ou d’autres produits.
User-Agent dans les requêtes HTTP

robots.txt
Jeton User-agent dans robots.txtGoogleOther
Exemple de groupe robots.txt
Produits concernésPréférences d’exploration adressées au GoogleOther agent utilisateur n’affectent aucun produit spécifique. GoogleOther est le robot d’exploration générique qui peut être utilisé par diverses équipes produit pour récupérer du contenu accessible publiquement sur des sites. Par exemple, il peut être utilisé pour des explorations ponctuelles à des fins de recherche et développement internes.
User-Agent dans les requêtes HTTP
robots.txt
Jeton User-agent dans robots.txtGoogleOther-Image

GoogleOther

Exemple de groupe robots.txt
Produits concernésPréférences d’exploration adressées au GoogleOther-Image agent utilisateur n’affectent aucun produit spécifique, tout comme GoogleOther. GoogleOther-Image est la version de GoogleOther optimisée pour récupérer des URL d’images accessibles publiquement.
User-Agent dans les requêtes HTTP
robots.txt
Jeton User-agent dans robots.txtGoogleOther-Video

GoogleOther

Exemple de groupe robots.txt
Produits concernésPréférences d’exploration adressées au GoogleOther-Video agent utilisateur n’affectent aucun produit spécifique, tout comme GoogleOther. GoogleOther-Video est la version de GoogleOther optimisée pour récupérer des URL de vidéos accessibles publiquement.
Sous-chaîne User-Agent dans les requêtes HTTP
robots.txt
Jeton User-agent dans robots.txtGoogle-CloudVertexBot

Googlebot

Exemple de groupe robots.txt
Produits concernésPréférences d’exploration adressées au Google-CloudVertexBot agent utilisateur affectent les explorations demandées par les propriétaires de sites pour créer des
Vertex AI Agents. Cela n’a aucun effet sur la recherche Google ou d’autres produits.
User-Agent dans les requêtes HTTPGoogle-Extended ne possède pas de chaîne d’agent utilisateur de requête HTTP distincte. L’exploration est effectuée avec les chaînes d’agent utilisateur Google existantes ; le jeton user-agent dans robots.txt est utilisé à des fins de contrôle.
robots.txt
Jeton User-agent dans robots.txtGoogle-Extended
Exemple de groupe robots.txt
Produits concernés

Google-Extended est un jeton de produit autonome que les éditeurs Web peuvent utiliser pour gérer si le contenu que Google explore sur leurs sites peut être utilisé pour entraîner les futures générations de modèles Gemini qui alimentent
Gemini Apps
et Vertex AI API for Gemini
et pour la mise à la terre (fournir du contenu de l’index Google Search au modèle au moment de la requête pour améliorer la véracité et la pertinence) dans
Gemini Apps
et Mise à la terre avec Google Search sur Vertex AI.

Google-Extended n’affecte pas l’inclusion d’un site dans Google Search et n’est pas utilisé comme signal de classement dans Google Search.

Une note sur Chrome/W.X.Y.Z dans les agents utilisateurs

La chaîne Chrome/W.X.Y.Z dans les chaînes d’agent utilisateur de la liste est un espace réservé qui représente la version du navigateur Chrome utilisée par cet agent utilisateur : par exemple,
41.0.2272.96. Ce numéro de version augmente avec le temps pour
correspondre à la dernière version de Chromium utilisée par Googlebot.

Si vous recherchez dans vos journaux ou filtrez votre serveur pour un agent utilisateur avec ce modèle, utilisez des caractères génériques pour le numéro de version plutôt que de spécifier un numéro de version exact.

Alien Road

Comment nous l'appliquons

This list is what we hand to a client’s security or CDN team. Blocking one of these by accident is a common and expensive mistake, and the list is the fastest way to settle whether a rule is safe.

Services associés

Partager