Amazonbot: En træningscrawler, som drives af Amazon
Amazonbot er en træningscrawler. Den indsamler sider til Amazon-produkter og -modeller. Operatøren er Amazon.
Overblik
- Ansvarlig virksomhed
- Amazon
- robots.txt-token
Amazonbot- Formål
- Træning. Træningscrawlere indsamler sider til fremtidige modeller. Hvis du blokerer dem, stopper det ikke de crawlere, der henter sider til svar. De har deres egne navne.
- Hvad den leverer data til
- Amazon-produkter og -modeller
Hvad det ændrer at blokere den
Hvis du blokerer Amazonbot, kommer dine sider ikke med i det, den indsamler til Amazon-produkter og -modeller. De crawlere, der henter sider til svar, har deres egne navne og kan derfor stadig læse dit website.
User agent
En repræsentativ user agent for Amazonbot. Vi bruger operatørens dokumentation, når den fulde streng er offentliggjort. Versionsnumre og browseroplysninger i faktiske serverlogs kan variere.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Amazonbot/0.1) Chrome/W.X.Y.Z Safari/537.36Linjer i robots.txt for Amazonbot
robots.txt er en almindelig tekstfil i roden af et website (yoursite.com/robots.txt). En gruppe begynder med en eller flere User-agent-linjer, der navngiver crawlere, efterfulgt af Allow- og Disallow-linjer for stier. En crawler, der er nævnt i en gruppe, følger de grupper, hvor dens navn står, og ignorerer gruppen for alle crawlere (User-agent: *).
Tillad adgang
User-agent: Amazonbot
Allow: /Blokér adgang
User-agent: Amazonbot
Disallow: /Giver dit website adgang?
Det gratis crawlertjek læser din robots.txt for Amazonbot og henter din side med crawlerens user agent. Så kan du se, om en regel i robots.txt eller en firewall afviser den.