Crawling infrastructure

Liste der von Google-Nutzern ausgelösten Fetcher

Von Nutzern ausgelöste Fetcher werden von Nutzern initiiert, um eine Abruffunktion innerhalb eines Google-Produkts auszuführen. Zum Beispiel
Google Site Verifier
handelt auf Anfrage eines Nutzers, oder eine auf Google Cloud (GCP) gehostete Website verfügt über eine Funktion, die es den Nutzern der Website ermöglicht, einen externen RSS-Feed abzurufen. Da der Abruf von einem Nutzer angefordert wurde, ignorieren diese Fetcher im Allgemeinen robots.txt-Regeln. Die allgemeinen
technischen Eigenschaften
der Crawler von Google gelten auch für die von Nutzern ausgelösten Fetcher.

Die IP-Bereiche, die von den nutzergesteuerten Fetchern verwendet werden, sind in den Objekten
user-triggered-fetchers.json,
user-triggered-fetchers-google.jsonund user-triggered-agents.json
veröffentlicht. Die Reverse-DNS-Maske der nutzergesteuerten Fetcher entspricht, je nachdem, ob der Fetcher Google oder einem Nutzer gehört, ***-***-***-***.gae.googleusercontent.com bzw.
google-proxy-***-***-***-***.google.com .

Liste der von Google-Nutzern ausgelösten Fetcher

Die folgende Liste zeigt die nutzergesteuerten Fetcher, ihre User-Agent-Strings, wie sie in den HTTP-Anfragen erscheinen, und die Produkte, mit denen sie verknüpft sind. Die Liste ist nicht erschöpfend; sie deckt nur die Anfragenden ab, die am wahrscheinlichsten in Protokolldateien auftauchen und zu denen wir Fragen erhalten haben.

Liste der von Google-Nutzern ausgelösten Fetcher — 2
User-Agent in HTTP-Anfragen
Zugehörige ProdukteDer Chrome Web Store-Fetcher fordert URLs an, die Entwickler in den Metadaten ihrer Chrome-Erweiterungen und -Themes bereitstellen.
User-Agent in HTTP-Anfragen
Zugehörige ProdukteFeedfetcher wird zum Crawlen von RSS- oder Atom-Feeds für Google News und WebSub verwendet.
User-Agent in HTTP-Anfragen
Mobiler Agent
Desktop-Agent
Ehemaliger Agent (unterstützt bis August 2026)Google-NotebookLM
Zugehörige ProdukteDer Gemini Notebook-Fetcher fordert einzelne URLs an, die
Gemini Notebook
Nutzer als Quellen für ihre Projekte angegeben haben.
User-Agent in HTTP-Anfragen
Mobiler Agent
Desktop-Agent
Zugehörige ProdukteGoogle-Agent wird von Agenten verwendet, die auf der Google-Infrastruktur gehostet werden, um im Web zu navigieren und Aktionen auf Nutzeranfrage auszuführen. Er verwendet IP-Bereiche aus user-triggered-agents.json.
Google Messages
User-Agent in HTTP-AnfragenZugehörige Produkte
Google Pinpoint
User-Agent in HTTP-AnfragenZugehörige Produkte Der Google-Pinpoint
Fetcher fordert einzelne URLs an, die
Pinpoint
Google Publisher Center
User-Agent in HTTP-AnfragenZugehörige Produkte
Google Publisher Center ruft und verarbeitet
Feeds, die Publisher explizit bereitgestellt haben
Google Read Aloud
User-Agent in HTTP-Anfragen
Mobiler Agent
Desktop-AgentEhemaliger Agent (veraltet)
google-speakrZugehörige Produkte
Auf Nutzeranfrage ruft Google Read Aloud Webseiten ab und liest sie mithilfe von Text-to-Speech (TTS) vor..
User-Agent in HTTP-Anfragen
Zugehörige ProdukteGoogle Site Verifier ruft Search Console-Bestätigungstokens ab.
Alien Road

So setzen wir das um

User-triggered fetchers act on a person’s request, not on a crawl schedule. We explain this distinction to clients who see the traffic in logs and assume they are being crawled aggressively.

Verwandte Leistungen

Teilen