Meta-WebIndexer: een zoekcrawler van Meta

Meta-WebIndexer is een zoekcrawler. Hij leest pagina's voor de zoekindex achter Zoeken met Meta AI. Meta beheert deze crawler.

In één oogopslag

Beheerder
Meta
robots.txt-token
Meta-WebIndexer
Doel
Zoeken. Zoekcrawlers lezen pagina's om de index op te bouwen waarin een assistent zoekt wanneer die antwoord geeft. Een pagina die ze niet kunnen lezen, kan niet in die antwoorden worden gevonden of geciteerd.
Waarvoor de gegevens worden gebruikt
Zoeken met Meta AI

Wat blokkeren verandert

Als je Meta-WebIndexer weert, kunnen je pagina's niet worden gevonden of geciteerd in de zoekantwoorden van Zoeken met Meta AI.

User-agent

Een representatieve useragent voor Meta-WebIndexer. We gebruiken de documentatie van de aanbieder als daarin een volledige string is gepubliceerd. Versies en browsergegevens in echte serverlogs kunnen afwijken.

meta-webindexer/1.1 (+/documentation/sharing/webmasters/web-crawlers)

robots.txt-regels voor Meta-WebIndexer

robots.txt is een tekstbestand in de hoofdmap van een site (yoursite.com/robots.txt). Een groep begint met één of meer User-agent-regels die crawlers benoemen, gevolgd door Allow- en Disallow-regels voor paden. Een crawler die in een groep wordt genoemd, volgt de groepen met zijn naam en negeert de groep voor alle crawlers (User-agent: *).

Toelaten

User-agent: Meta-WebIndexer
Allow: /

Blokkeren

User-agent: Meta-WebIndexer
Disallow: /

Laat jouw site deze crawler toe?

De gratis crawlercheck leest je robots.txt voor Meta-WebIndexer en vraagt je pagina op met de bijbehorende user-agent. Zo zie je of een robots.txt-regel of een firewall deze crawler weert.

Controleer of jouw site Meta-WebIndexer toelaat

Vragen over Meta-WebIndexer

Meta-WebIndexer is een zoekcrawler. Hij leest pagina's voor de zoekindex achter Zoeken met Meta AI. Meta beheert deze crawler.

Alleen als je niet wilt dat je pagina's verschijnen in de zoekantwoorden van Zoeken met Meta AI. Andere crawlers blijven hierdoor ongemoeid.

Voeg een groep toe met de naam van de crawler en een regel voor alle paden: “User-agent: Meta-WebIndexer”, gevolgd door “Disallow: /”. Wil je de crawler toelaten, gebruik dan “Allow: /”.