Robots.txt

La directive Clean-param

Ask AI about this page

1 views 2 min de lecture

Clean-param est une extension Yandex sans équivalent ailleurs : elle indique au robot quels paramètres d’URL ne modifient pas le contenu de la page, afin que les variantes convergent vers une seule adresse et que les métriques accumulées y soient transférées. Ce transfert est la raison pour laquelle Yandex la recommande plutôt que Disallow pour les URL paramétrées.

Comment cela fonctionne

Étant données trois adresses qui ne diffèrent que par un paramètre de suivi :

La directive Clean-param
/some_dir/get_book.pl?ref=site_1&book_id=123
/some_dir/get_book.pl?ref=site_2&book_id=123
/some_dir/get_book.pl?ref=site_3&book_id=123

la directive

User-agent: Yandex
Clean-param: ref /some_dir/get_book.pl

les réduit à /some_dir/get_book.pl?book_id=123, ce qui apparaît dans les recherches si cela existe sur le site. Notez que book_id est préservé — le paramètre qui détermine le contenu reste.

Format à l’échelle du site

Omettez le chemin et la règle s’applique partout :

La directive Clean-param — 2
User-agent: Yandex
Clean-param: utm

Pourquoi il est important de la maintenir à jour

Yandex explique précisément le coût de la négligence : un nouveau paramètre qui n’affecte pas le contenu produit des pages en double, et comme il y en a beaucoup le robot analyse le site plus lentement — de sorte que les changements importants mettent plus de temps à apparaître dans la recherche. Une équipe marketing qui introduit un nouveau paramètre de suivi prend donc une décision sur le budget de crawl sans le savoir.

Rappels de syntaxe

Les paramètres sont séparés par &; le préfixe de chemin en est séparé par un espace. Se tromper sur ce point génère l’erreur “invalid Clean-param directive format” dans l’analyseur, ce qui est l’une des erreurs spécifiques à Yandex qu’un vérificateur de robots.txt générique ne signalera pas.

Où elle interagit avec la console

La page de configuration des paramètres GET fait le même travail via l’interface. En cas de désaccord entre les deux, la règle qui empêche l’indexation l’emporte — de sorte qu’une ligne Clean-param périmée remplace silencieusement tout ce qui est défini dans l’interface.

Alien Road

Comment nous l'appliquons

We keep a Clean-param line under review as part of ongoing work rather than writing it once, because every new campaign parameter that goes unlisted quietly multiplies the crawlable URL count. Explaining that link to the marketing team — new tracking parameter, slower indexing of new products — is more effective than any technical argument, because it connects the two things they each care about.

Services associés

Partager