Quand l'indexation déraille : comment Google Search s'est remis des problèmes d'indexation et les leçons tirées depuis

Lundi 12 août 2019

La plupart du temps, notre moteur de recherche fonctionne correctement. Nos équipes travaillent dur pour éviter les problèmes techniques qui pourraient affecter nos utilisateurs qui recherchent sur le Web, ou les webmasters dont les sites sont indexés et servis aux utilisateurs. De même, les systèmes sous-jacents que nous utilisons pour alimenter le moteur de recherche fonctionnent également comme prévu la plupart du temps. Lorsque de petites perturbations se produisent, elles sont largement invisibles pour quiconque, sauf pour nos équipes qui s’assurent que nos produits sont opérationnels. Cependant, comme tous les systèmes complexes, des pannes plus importantes peuvent parfois survenir, entraînant des perturbations tant pour les utilisateurs que pour les créateurs de sites Web.

Ces derniers mois, une telle situation s’est produite avec nos systèmes d’indexation, ce qui a eu un effet d’entraînement sur d’autres parties de notre infrastructure. Bien que nous ayons travaillé aussi rapidement que possible pour remédier à la situation, nous nous excusons pour la perturbation, car notre objectif est de fournir continuellement des produits de haute qualité à nos utilisateurs et à l’écosystème Web.

Depuis lors, nous avons examiné la situation de plus près et avec attention. Au cours de ce processus, nous avons tiré quelques leçons que nous aimerions partager avec vous aujourd’hui. Dans cet article de blog, nous entrerons plus en détail sur ce qui s’est passé, clarifierons la façon dont nous prévoyons de mieux communiquer si de telles choses se produisent à l’avenir et rappellerons aux propriétaires de sites Web les canaux qu’ils peuvent utiliser pour communiquer avec nous.

Alors, que s’est-il passé il y a quelques mois ?

En avril, nous avons eu plusieurs problèmes liés à notre index. L’index de recherche est la base de données qui contient les centaines de milliards de pages Web que nous avons explorées sur le Web et qui, selon nous, pourraient répondre à certaines des requêtes de nos utilisateurs. Lorsqu’un utilisateur entre une requête dans le moteur de recherche Google, nos algorithmes de classement trient ces pages dans notre index de recherche pour trouver les résultats les plus pertinents et utiles en une fraction de seconde. Voici plus d’informations sur ce qui s’est passé.

1. Le problème d’indexation

Pour commencer, nous avons temporairement perdu une partie de l’index de recherche.

Attendez… Quoi ? Qu’entendez-vous par « avons perdu une partie de l’index » ? Est-ce seulement possible ?

Fondamentalement, lors de la diffusion de résultats de recherche aux utilisateurs, pour accélérer la vitesse du service, la requête de l’utilisateur ne « voyage » que jusqu’au plus proche de nos centres de données prenant en charge le produit Google Search, à partir duquel la page de résultats du moteur de recherche (SERP) est générée. Ainsi, lorsqu’il y a des modifications dans la composition de l’index (certaines pages ajoutées et supprimées, des documents fusionnés ou d’autres types de modification de données), ces modifications doivent être reflétées dans tous ces centres de données. La conséquence est que les utilisateurs du monde entier se voient systématiquement servir des pages de la version la plus récente de l’index.

Maintenir l’index unifié sur tous ces centres de données n’est pas une tâche triviale. Pour les grands services destinés aux utilisateurs, nous pouvons déployer des mises à jour en commençant dans un centre de données et en nous développant jusqu’à ce que tous les centres de données concernés soient mis à jour. Pour les éléments sensibles de l’infrastructure, nous pouvons étendre un déploiement sur plusieurs jours, en les entrelacant entre des instances dans différentes régions géographiques.
source.

Ainsi, alors que nous poussions des modifications prévues sur l’index de recherche, le 5 avril, des parties du système de déploiement se sont cassées, un vendredi en plus ! Plus précisément : alors que nous mettions à jour l’index sur certains de nos centres de données, un petit nombre de documents ont fini par être supprimés de l’index par accident. D’où : « nous avons perdu une partie de l’index. »

Heureusement, nos
ingénieurs d’astreinte
ont détecté le problème assez rapidement, en même temps que nous avons commencé à repérer des discussions sur les réseaux sociaux (merci à tous ceux qui nous ont prévenus ce week-end-là !). En conséquence, nous avons pu commencer à rétablir l’index de recherche à son état stable précédent dans tous les centres de données quelques heures seulement après la découverte du problème (nous conservons des sauvegardes de nos index au cas où de tels événements se produiraient).

Nous avons communiqué le dimanche,
7 avril
que nous étions conscients du problème et que les choses commençaient à revenir à la normale. Au fur et à mesure que les centres de données revenaient progressivement à un index stable, nous avons continué à faire des mises à jour sur Twitter (le
8 avril,
9 avril), jusqu’à ce que nous soyons sûrs que tous les centres de données étaient entièrement revenus à une version complète de l’index le
11 avril.

2. Le problème de Search Console

Search Console est l’ensemble des outils et des rapports que tout webmaster peut utiliser pour accéder aux données sur les performances de son site Web dans la recherche. Par exemple, il montre combien d’impressions et de clics un site Web reçoit dans les résultats de recherche organiques chaque jour, ou des informations sur les pages d’un site Web qui sont incluses et exclues de l’index de recherche.

En raison des problèmes rencontrés par l’index de recherche décrits ci-dessus, Search Console a également commencé à afficher des incohérences. En effet, certaines données qui apparaissent dans Search Console proviennent de l’index de recherche lui-même :

• le rapport sur la couverture de l’index
  dépend de la cohérence de l’index de recherche dans les centres de données.
  lorsque nous stockons une page dans l’index de recherche, nous pouvons annoter l’entrée avec des signaux clés sur la page, comme le fait que la page contient un balisage de résultats enrichis par exemple. Par conséquent, un problème avec l’index de recherche peut avoir un impact sur les
• rapports sur les résultats enrichis
  dans Search Console.
  Fondamentalement, de nombreux rapports individuels de Search Console lisent des données à partir d’une base de données dédiée. Cette base de données est partiellement construite à l’aide d’informations provenant de l’index de recherche. Comme nous avons dû revenir à une version précédente de l’index de recherche, nous avons également dû suspendre la mise à jour de la base de données Search Console. Cela a entraîné la stagnation des données pour certains rapports (et de l’instabilité dans d’autres, comme l’outil d’inspection d’URL).

Rapport sur la couverture de l’index pour les pages indexées, qui montre un exemple des problèmes de fraîcheur des données dans Search Console en avril 2019, avec un délai plus long entre 2 mises à jour que ce que l’on observe habituellement.

ru
tweet
– que la Search Console rencontrait des problèmes et que nous travaillions à les résoudre, et nous avons terminé nos correctifs le 28 avril (jour où les rapports ont recommencé à collecter des données fraîches, voir le graphique ci-dessus). Nous avons communiqué sur Twitter le 30 avril que le problème était résolu-
tweet.

3. Autres problèmes sans rapport avec le bug d’indexation principal

Google Search s’appuie sur un certain nombre de systèmes qui fonctionnent ensemble. Bien que certains de ces systèmes puissent être étroitement liés les uns aux autres, dans certains cas, différentes parties du système connaissent des problèmes indépendants à peu près en même temps.

Dans le cas présent, par exemple, à peu près en même temps que le bug d’indexation principal expliqué ci-dessus, nous avons également rencontré de brefs problèmes de collecte de contenu frais Google News. De plus, lors du rendu des pages, certaines URL ont commencé à rediriger Googlebot vers d’autres pages sans rapport. Ces problèmes étaient totalement indépendants du bug d’indexation et ont été rapidement résolus (tweet 1
et tweet 2).

Notre communication et comment nous avons l’intention de faire mieux

En plus de communiquer sur les réseaux sociaux (comme souligné ci-dessus) pendant ces quelques semaines, nous avons également donné plus de détails aux webmasters via 2 autres canaux : Search Console, ainsi que le Centre d’aide de la Search Console.

Dans le Centre d’aide de la Search Console

Nous avons mis à jour notre page d’aide “Anomalies de données dans la Search Console” après que le problème a été entièrement identifié. Cette page est utilisée pour communiquer des informations sur les perturbations de données de notre service Search Console lorsque l’impact touche un grand nombre de propriétaires de sites Web.

Dans la Search Console

Étant donné que nous savons que tous nos utilisateurs ne lisent pas les réseaux sociaux ou la page externe du Centre d’aide, nous avons également ajouté des annotations sur les rapports de la Search Console pour informer les utilisateurs que les données peuvent ne pas être exactes (voir l’image ci-dessous). Nous avons ajouté ces informations après la résolution des bugs. Cliquer sur “voir ici pour plus de détails” renvoie les utilisateurs vers la page “Anomalies de données” du Centre d’aide.

Communications futures

Quand quelque chose casse chez Google, nous avons une forte culture du “post-mortem” : créer un document pour débriefer sur la panne et essayer d’éviter qu’elle ne se reproduise la prochaine fois. L’ensemble du processus est décrit plus en détail sur
le site Web de Google Site Reliability Engineering.

À la suite des problèmes d’indexation d’avril, nous avons inclus dans le post-mortem la manière de mieux communiquer avec les webmasters en cas de pannes système majeures. Nos principales décisions ont été :

1. Explorer des moyens de partager plus rapidement des informations au sein même de la Search Console concernant les bugs généralisés, et faire en sorte que ces informations servent de point de référence principal pour les webmasters en cas de suspicion de pannes.
2. Publier plus rapidement sur la page des anomalies de données de la Search Console, le cas échéant (si la perturbation doit être visible à long terme dans les données de la Search Console).
3. Continuer à tweeter aussi rapidement que possible sur ces problèmes pour rassurer rapidement les webmasters sur le fait que nous sommes conscients du problème et qu’il vient de notre côté.

Ces engagements devraient rendre d’éventuelles situations similaires futures plus transparentes pour les webmasters dans leur ensemble.

Mise en pratique de nos résolutions : l’étude de cas “nouvelles URL non indexées”

Le 22 mai, nous avons testé notre nouvelle stratégie de communication, alors que nous rencontrions un autre problème. Voici ce qui s’est passé : lors du traitement de certaines URL, notre système de gestion des doublons a manqué de mémoire après une mise à niveau planifiée de l’infrastructure, ce qui a entraîné l’arrêt du traitement de toutes les URL entrantes.

Voici une chronologie de la façon dont nous avons pensé la communication, en suivant les 3 points mis en avant juste ci-dessus :

1. Nous avons remarqué le problème (vers 5h30 heure de Californie, le 22 mai)
   
   Nous avons
   tweeté
   au sujet du problème en cours (vers 6h40 heure de Californie, le 22 mai)
   
   Nous avons
   tweeté
   au sujet de la résolution (vers 22h00 heure de Californie, le 22 mai)
2. Nous avons évalué la mise à jour de la page “Anomalies de données” dans le Centre d’aide, mais avons décidé de ne pas le faire car nous ne prévoyions aucun impact à long terme pour la majorité des données Search Console des webmasters sur le long terme.
3. La confusion que ce problème a créée pour beaucoup a confirmé nos conclusions précédentes selon lesquelles nous avons besoin d’un moyen de signaler plus clairement dans la Search Console elle-même qu’il pourrait y avoir une perturbation de l’un de nos systèmes susceptible d’affecter les webmasters. Une telle solution pourrait prendre plus de temps à être mise en œuvre. Nous communiquerons sur ce sujet à l’avenir, à mesure que nous aurons plus de nouvelles.

La semaine dernière, nous avons également eu un autre problème d’indexation. Comme le 22 mai, nous avons
degeden
pour faire savoir aux gens qu’il y avait un problème, que nous travaillions à le résoudre et quand il a été résolu.

Comment déboguer et communiquer avec nous

Nous espérons que cet article apportera plus de clarté sur la complexité de nos systèmes et sur le fait qu’ils peuvent parfois tomber en panne, et qu’il vous aidera également à comprendre comment nous communiquons sur ces sujets. Mais bien que cet article se concentre sur une panne généralisée de nos systèmes, il est important de garder à l’esprit que la plupart des problèmes d’indexation de sites Web sont causés par la configuration d’un site Web individuel, ce qui peut créer des difficultés pour Google Search pour indexer correctement ce site Web. Pour ces cas, tous les webmasters peuvent déboguer les problèmes en utilisant
Search Console et notre
Help center. Après l’avoir fait, si vous pensez toujours qu’un problème ne provient pas de votre site ou ne savez pas comment le résoudre, venez discuter avec nous et notre communauté, nous voulons toujours recueillir les commentaires de nos utilisateurs. Voici comment nous signaler un problème :

• Consultez notre
  Webmaster Community, parfois d’autres webmasters ont mis en évidence un problème qui touche également votre site.
• En personne ! Nous aimons le contact, venez discuter avec nous lors de events.
• Dans nos produits ! L’outil de commentaires Search Console est très utile pour nos équipes.
• Twitter et
  YouTube!

Publié par Vincent Courson, Google Search Outreach