Amazonbot: en träningscrawlare som drivs av Amazon
Amazonbot är en träningscrawlare. Den samlar in sidor till Amazons produkter och modeller och drivs av Amazon.
Översikt
- Ansvarig för webbplatsen
- Amazon
- robots.txt-token
Amazonbot- Syfte
- Träning. Träningscrawlare samlar in sidor till framtida modeller. Att stänga ute dem stoppar inte de crawlare som hämtar sidor för att ge svar. De har egna namn.
- Vad den bidrar till
- Amazons produkter och modeller
Vad som händer om du blockerar den
Om du stänger ute Amazonbot kommer dina sidor inte med i det som samlas in till Amazons produkter och modeller. Crawlarna som hämtar sidor för att ge svar har egna namn och kan därför fortfarande läsa din webbplats.
Användaragent
En representativ user agent för Amazonbot. Vi använder operatörens dokumentation när en fullständig sträng finns publicerad. Versionsnummer och webbläsaruppgifter i faktiska serverloggar kan skilja sig.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Amazonbot/0.1) Chrome/W.X.Y.Z Safari/537.36Rader i robots.txt för Amazonbot
robots.txt är en vanlig textfil i en webbplats rotkatalog (yoursite.com/robots.txt). En grupp börjar med en eller flera User-agent-rader som namnger crawlare, följt av Allow- och Disallow-rader för sökvägar. En crawlare som namnges i en grupp följer grupperna där den namnges och ignorerar gruppen för alla crawlare (User-agent: *).
För att släppa in den
User-agent: Amazonbot
Allow: /För att stänga den ute
User-agent: Amazonbot
Disallow: /Släpper din webbplats in den?
Den kostnadsfria kontrollen läser din robots.txt för Amazonbot och begär din sida med dess användaragent. Då ser du om en regel i robots.txt eller en brandvägg stänger den ute.