Der Roboter findet Seiten, indem er Links folgt. Yandex stellt die Konsequenz ohne Umschweife fest: ein Dokument, auf das keine Links verweisen, wird niemals entdeckt und bei der Suche ignoriert. Die Struktur ist daher keine ästhetische Angelegenheit.
Die sechs Regeln
- Behalten Sie eine klare Linkstruktur bei. Jedes Dokument gehört zu einem Abschnitt und muss über einen echten
<a href>Link erreichbar sein. Yandex fügt eine Tatsache hinzu, die man bei der Planung berücksichtigen sollte: Die Indexierungszeit hängt teilweise von der Verschachtelungstiefe ab – je tiefer eine Seite liegt, desto länger kann es dauern, bis sie aufgenommen wird. Die meisten Besucher kommen auch über die Startseite, da eine Domain leichter zu merken ist als eine interne URL. - Verwenden Sie eine Sitemap bei großen Projekten, um dem Roboter zu helfen, Dokumente zu finden und zu analysieren.
- Beschränken Sie die Indexierung technischer Seiten. Duplikate, interne Suchergebnisse, Statistikseiten – Yandex erklärt genau, warum dies wichtig ist: Solche Seiten werden ständig hinzugefügt und aktualisiert, daher werden sie oft gecrawlt, während Seiten mit wichtigen Informationen unbemerkt bleiben. Dies ist das Argument des Crawl-Budgets, ausgedrückt in den eigenen Worten der Suchmaschine.
- Geben Sie jeder Seite eine eindeutige, beschreibende URL. Transliteration hilft dem Roboter, das Thema abzuleiten; das gegebene Beispiel zeigt, wie viel eine gut geformte URL kommuniziert, bevor die Seite überhaupt abgerufen wird.
- Stellen Sie Textlinks zu Abschnitten bereit, damit der Roboter lernt, was sie enthalten.
- Überprüfen Sie Symlinks damit URLs nicht unendlich wachsen können. Seiten mit wiederholten Token –
example.com/vasya/vasya/vasya/– werden möglicherweise überhaupt nicht indexiert. Dies ist die klassische Falle des unendlichen Raums, die durch relative Links in einer falsch gehandhabten Vorlage entsteht.
Das Kodierungsdetail
Verwenden Sie dieselbe Kodierung für Seiten und für kyrillische URLs. Wenn der Roboter href="/корзина" auf einer UTF-8-Seite findet, speichert er den Link in dieser Kodierung, daher muss die Seite unter dem prozentkodierten Äquivalent erreichbar sein. Eine Nichtübereinstimmung hier führt zu Links, die im Browser funktionieren, aber für den Roboter einen 404-Fehler erzeugen.

Was damit zu tun ist
Überprüfen Sie drei Dinge auf jeder Website: dass jede Seite, die eine Indexierung wert ist, über einen einfachen Link erreichbar ist, dass nichts Wichtiges tiefer als drei oder vier Ebenen liegt und dass Filter- und Such-URLs ausgeschlossen sind. Diese drei decken das meiste ab, was auf dieser Seite beschrieben wird und was schiefgehen kann.

So setzen wir das um
The rule we act on first is the third one, because Yandex explains the mechanism so clearly: technical pages change constantly, so they attract the crawler while the pages that matter wait. On large catalogues, blocking filter and internal-search URLs measurably speeds up how quickly new products appear. The infinite-URL symlink trap is rarer but brutal — we test for it by requesting a deliberately repeated path and checking the response is a 404 rather than a page.
Verwandte Leistungen