YouBot: en sökcrawlare som drivs av You.com
YouBot är en sökcrawlare. Den läser sidor till sökindexet bakom svar från You.com och drivs av You.com.
Översikt
- Ansvarig för webbplatsen
- You.com
- robots.txt-token
YouBot- Syfte
- Sökning. Sökcrawlare läser sidor för att bygga det index som en assistent söker i när den svarar. En sida de inte kan läsa kan inte hittas eller citeras i de svaren.
- Vad den bidrar till
- svar från You.com
Vad som händer om du blockerar den
Om du stänger ute YouBot kan dina sidor inte hittas eller citeras i söksvaren från svar från You.com.
Användaragent
Den fullständiga användaragenten enligt operatörens dokumentation. En förfrågan från YouBot innehåller den här texten, som också syns i serverloggen.
Mozilla/5.0 (compatible; YouBot/1.0; +https://about.you.com/youbot/)Rader i robots.txt för YouBot
robots.txt är en vanlig textfil i en webbplats rotkatalog (yoursite.com/robots.txt). En grupp börjar med en eller flera User-agent-rader som namnger crawlare, följt av Allow- och Disallow-rader för sökvägar. En crawlare som namnges i en grupp följer grupperna där den namnges och ignorerar gruppen för alla crawlare (User-agent: *).
För att släppa in den
User-agent: YouBot
Allow: /För att stänga den ute
User-agent: YouBot
Disallow: /Släpper din webbplats in den?
Den kostnadsfria kontrollen läser din robots.txt för YouBot och begär din sida med dess användaragent. Då ser du om en regel i robots.txt eller en brandvägg stänger den ute.