YouBot: ein Such-Crawler, den You.com betreibt
YouBot ist ein Such-Crawler. Er liest Seiten für den Suchindex des jeweiligen Angebots (Antworten von You.com). Betrieben wird er von You.com.
Auf einen Blick
- Betreiber
- You.com
- robots.txt-Token
YouBot- Zweck
- Suche. Such-Crawler lesen Seiten, um den Index aufzubauen, den ein Assistent für seine Antworten durchsucht. Kann er eine Seite nicht lesen, kann sie in diesen Antworten weder gefunden noch zitiert werden.
- Wofür er Daten liefert
- Antworten von You.com
Was sich durch das Blockieren ändert
Wenn Sie YouBot aussperren, können Ihre Seiten in den Suchantworten des jeweiligen Angebots (Antworten von You.com) weder gefunden noch zitiert werden.
User-Agent
Der vollständige User-Agent aus der Dokumentation des Betreibers. Wenn YouBot eine Anfrage sendet, enthält sie diesen Text. Er erscheint auch im Serverprotokoll.
Mozilla/5.0 (compatible; YouBot/1.0; +https://about.you.com/youbot/)robots.txt-Zeilen für YouBot
robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website (yoursite.com/robots.txt). Eine Gruppe beginnt mit einer oder mehreren User-agent-Zeilen, die Crawler benennen. Darauf folgen Allow- und Disallow-Zeilen für Pfade. Ein Crawler, der in einer Gruppe namentlich genannt wird, befolgt die Gruppen mit seinem Namen und ignoriert die Gruppe für alle Crawler (User-agent: *).
Zulassen
User-agent: YouBot
Allow: /Sperren
User-agent: YouBot
Disallow: /Lässt Ihre Website den Crawler zu?
Die kostenlose Crawler-Prüfung liest Ihre robots.txt für YouBot und ruft Ihre Seite mit dessen User-Agent auf. So zeigt sie, ob eine robots.txt-Regel oder eine Firewall den Crawler abweist.