ClaudeBot: rastreador de entrenamiento operado por Anthropic
ClaudeBot es un rastreador de entrenamiento. Recopila páginas para Futuros modelos de Claude. Lo opera Anthropic.
De un vistazo
- Responsable del sitio
- Anthropic
- Identificador en robots.txt
ClaudeBot- Función
- Entrenamiento. Los rastreadores de entrenamiento recopilan páginas para futuros modelos. Bloquearlos no impide el acceso a los rastreadores que consultan páginas para elaborar respuestas, ya que tienen nombres distintos.
- Qué alimenta
- Futuros modelos de Claude
Qué cambia al bloquearlo
Si bloqueas ClaudeBot, tus páginas quedarán fuera de lo que recopila para Futuros modelos de Claude. Los rastreadores que consultan páginas para elaborar respuestas tienen nombres distintos, así que podrán seguir leyendo tu sitio.
Agente de usuario
El agente de usuario completo, según la documentación de quien lo opera. Las solicitudes de ClaudeBot incluyen este texto, que aparece en los registros del servidor.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; [email protected])Reglas de robots.txt para ClaudeBot
robots.txt es un archivo de texto sin formato situado en la raíz de un sitio (yoursite.com/robots.txt). Un grupo empieza con una o varias líneas User-agent que nombran rastreadores, seguidas de líneas Allow y Disallow para las rutas. Un rastreador nombrado en un grupo sigue los grupos que lo nombran e ignora el grupo general (User-agent: *).
Para permitirle el acceso
User-agent: ClaudeBot
Allow: /Para bloquearle el acceso
User-agent: ClaudeBot
Disallow: /¿Tu sitio le permite el acceso?
La comprobación de rastreadores lee tu robots.txt para ClaudeBot y solicita tu página con su agente de usuario. Así muestra si lo bloquea una regla de robots.txt o un firewall.