Bytespider: rastreador de entrenamiento operado por ByteDance
Bytespider es un rastreador de entrenamiento. Recopila páginas para Doubao. Lo opera ByteDance.
De un vistazo
- Responsable del sitio
- ByteDance
- Identificador en robots.txt
Bytespider- Función
- Entrenamiento. Los rastreadores de entrenamiento recopilan páginas para futuros modelos. Bloquearlos no impide el acceso a los rastreadores que consultan páginas para elaborar respuestas, ya que tienen nombres distintos.
- Qué alimenta
- Doubao
Qué cambia al bloquearlo
Si bloqueas Bytespider, tus páginas quedarán fuera de lo que recopila para Doubao. Los rastreadores que consultan páginas para elaborar respuestas tienen nombres distintos, así que podrán seguir leyendo tu sitio.
Agente de usuario
Un agente de usuario representativo de Bytespider. Usamos la documentación del operador cuando publica la cadena completa. Las versiones y los datos del navegador pueden variar en los registros reales del servidor.
Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; https://zhanzhang.toutiao.com/)Reglas de robots.txt para Bytespider
robots.txt es un archivo de texto sin formato situado en la raíz de un sitio (yoursite.com/robots.txt). Un grupo empieza con una o varias líneas User-agent que nombran rastreadores, seguidas de líneas Allow y Disallow para las rutas. Un rastreador nombrado en un grupo sigue los grupos que lo nombran e ignora el grupo general (User-agent: *).
Para permitirle el acceso
User-agent: Bytespider
Allow: /Para bloquearle el acceso
User-agent: Bytespider
Disallow: /¿Tu sitio le permite el acceso?
La comprobación de rastreadores lee tu robots.txt para Bytespider y solicita tu página con su agente de usuario. Así muestra si lo bloquea una regla de robots.txt o un firewall.