YouBot: rastreador de búsqueda operado por You.com
YouBot es un rastreador de búsqueda. Lee páginas para crear el índice que utiliza Respuestas de You.com. Lo opera You.com.
De un vistazo
- Responsable del sitio
- You.com
- Identificador en robots.txt
YouBot- Función
- Búsqueda. Los rastreadores de búsqueda leen páginas para crear el índice que consulta un asistente al responder. Si no pueden leer una página, no podrán encontrarla ni citarla en sus respuestas.
- Qué alimenta
- Respuestas de You.com
Qué cambia al bloquearlo
Si bloqueas YouBot, tus páginas no podrán aparecer ni citarse en las respuestas de búsqueda de Respuestas de You.com.
Agente de usuario
Un agente de usuario representativo de YouBot. Usamos la documentación del operador cuando publica la cadena completa. Las versiones y los datos del navegador pueden variar en los registros reales del servidor.
Mozilla/5.0 (compatible; YouBot/1.0; +https://about.you.com/youbot/)Reglas de robots.txt para YouBot
robots.txt es un archivo de texto sin formato situado en la raíz de un sitio (yoursite.com/robots.txt). Un grupo empieza con una o varias líneas User-agent que nombran rastreadores, seguidas de líneas Allow y Disallow para las rutas. Un rastreador nombrado en un grupo sigue los grupos que lo nombran e ignora el grupo general (User-agent: *).
Para permitirle el acceso
User-agent: YouBot
Allow: /Para bloquearle el acceso
User-agent: YouBot
Disallow: /¿Tu sitio le permite el acceso?
La comprobación de rastreadores lee tu robots.txt para YouBot y solicita tu página con su agente de usuario. Así muestra si lo bloquea una regla de robots.txt o un firewall.