Claude-SearchBot: en sökcrawlare som drivs av Anthropic
Claude-SearchBot är en sökcrawlare. Den läser sidor till sökindexet bakom Claude-sökning och drivs av Anthropic.
Översikt
- Ansvarig för webbplatsen
- Anthropic
- robots.txt-token
Claude-SearchBot- Syfte
- Sökning. Sökcrawlare läser sidor för att bygga det index som en assistent söker i när den svarar. En sida de inte kan läsa kan inte hittas eller citeras i de svaren.
- Vad den bidrar till
- Claude-sökning
Vad som händer om du blockerar den
Om du stänger ute Claude-SearchBot kan dina sidor inte hittas eller citeras i söksvaren från Claude-sökning.
Användaragent
Den fullständiga användaragenten enligt operatörens dokumentation. En förfrågan från Claude-SearchBot innehåller den här texten, som också syns i serverloggen.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Claude-SearchBot/1.0; [email protected])Rader i robots.txt för Claude-SearchBot
robots.txt är en vanlig textfil i en webbplats rotkatalog (yoursite.com/robots.txt). En grupp börjar med en eller flera User-agent-rader som namnger crawlare, följt av Allow- och Disallow-rader för sökvägar. En crawlare som namnges i en grupp följer grupperna där den namnges och ignorerar gruppen för alla crawlare (User-agent: *).
För att släppa in den
User-agent: Claude-SearchBot
Allow: /För att stänga den ute
User-agent: Claude-SearchBot
Disallow: /Släpper din webbplats in den?
Den kostnadsfria kontrollen läser din robots.txt för Claude-SearchBot och begär din sida med dess användaragent. Då ser du om en regel i robots.txt eller en brandvägg stänger den ute.