Bytespider: rastreador de entrenamiento operado por ByteDance
Bytespider es un rastreador de entrenamiento. Recopila páginas para Doubao. Lo opera ByteDance.
De un vistazo
- Responsable del sitio
- ByteDance
- Identificador en robots.txt
Bytespider- Función
- Entrenamiento. Los rastreadores de entrenamiento recopilan páginas para futuros modelos. Bloquearlos no impide el acceso a los rastreadores que consultan páginas para elaborar respuestas, ya que tienen nombres distintos.
- Qué alimenta
- Doubao
Qué cambia al bloquearlo
Si bloqueas Bytespider, tus páginas quedarán fuera de lo que recopila para Doubao. Los rastreadores que consultan páginas para elaborar respuestas tienen nombres distintos, así que podrán seguir leyendo tu sitio.
Agente de usuario
El agente de usuario completo, según la documentación de quien lo opera. Las solicitudes de Bytespider incluyen este texto, que aparece en los registros del servidor.
Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; [email protected])Reglas de robots.txt para Bytespider
robots.txt es un archivo de texto sin formato situado en la raíz de un sitio (yoursite.com/robots.txt). Un grupo empieza con una o varias líneas User-agent que nombran rastreadores, seguidas de líneas Allow y Disallow para las rutas. Un rastreador nombrado en un grupo sigue los grupos que lo nombran e ignora el grupo general (User-agent: *).
Para permitirle el acceso
User-agent: Bytespider
Allow: /Para bloquearle el acceso
User-agent: Bytespider
Disallow: /¿Tu sitio le permite el acceso?
La comprobación de rastreadores lee tu robots.txt para Bytespider y solicita tu página con su agente de usuario. Así muestra si lo bloquea una regla de robots.txt o un firewall.