Мета-теги говорят роботу, как загружать, индексировать и отображать страницу. Яндекс учитывает определенный набор, и его обработка конфликтов достаточно необычна, чтобы ее стоило изучить.
Теги, которые читает Яндекс
description— источник для описания сниппета.keywords— Яндекс заявляет, что он «может влиять на релевантность страницы поисковым запросам». В отличие от Google, здесь он не объявлен мертвым.robots— правила загрузки и индексации.viewport— мобильная адаптация. Без него мобильные браузеры отображают страницу для десктопного экрана, а затем компенсируют это масштабированием или обрезкой, что является сбоем удобства мобильного просмотра, вызванным упущением, а не недостатком дизайна.Content-Type— тип документа и кодировка.refresh— с небольшой задержкой, рассматривается как временное перенаправление, эквивалентное302/303/307, и применимо при переезде сайта.
Директивы
Доступны в robots мета-теге или заголовке X-Robots-Tag HTTP:

noindex— текст страницы не индексируется, и страница остается вне результатов.nofollow— ссылки не обходятся, хотя робот может узнать о них из других источников.none— то и другое.noarchive— нет ссылки на сохраненную копию в результатах.index,follow,archive,all— отмена запретов; это значения по умолчанию, и их можно опустить.
Правило конфликта, которое удивляет людей
Разрешающие директивы имеют приоритет над запрещающими. Страница, содержащая как all , так и noindex , индексируется. Это противоположно тому, что предполагает большинство людей, и означает, что оставшийся в шаблоне случайный разрешающий тег незаметно отменяет преднамеренное исключение.
Теги для конкретных роботов
<meta name="yandex" ...> адресован только роботам Яндекса, и когда присутствуют как общий, так и специфичный для Яндекса тег Яндекс применяет оба — robots: noindex плюс yandex: nofollow читается как noindex, nofollow.
Предварительное условие
Если страница заблокирована в robots.txt, ничто из этого не применяется — робот никогда не запрашивает страницу и никогда не видит директиву.

Как мы это применяем
Two things here change what we check. Permissive-wins is genuinely counter-intuitive: we look for leftover “all” or “index” tags whenever a noindex appears not to work, and it is usually a template emitting both. And because keywords is still described as potentially influencing relevance, we leave existing tags alone on Yandex-facing sites rather than stripping them out on Google-centric advice.
Связанные услуги