DuckAssistBot: en sökcrawlare som drivs av DuckDuckGo
DuckAssistBot är en sökcrawlare. Den läser sidor till sökindexet bakom svar från DuckDuckGo och drivs av DuckDuckGo.
Översikt
- Ansvarig för webbplatsen
- DuckDuckGo
- robots.txt-token
DuckAssistBot- Syfte
- Sökning. Sökcrawlare läser sidor för att bygga det index som en assistent söker i när den svarar. En sida de inte kan läsa kan inte hittas eller citeras i de svaren.
- Vad den bidrar till
- svar från DuckDuckGo
Vad som händer om du blockerar den
Om du stänger ute DuckAssistBot kan dina sidor inte hittas eller citeras i söksvaren från svar från DuckDuckGo.
Användaragent
Den fullständiga användaragenten enligt operatörens dokumentation. En förfrågan från DuckAssistBot innehåller den här texten, som också syns i serverloggen.
DuckAssistBot/1.2; (+http://duckduckgo.com/duckassistbot.html)Rader i robots.txt för DuckAssistBot
robots.txt är en vanlig textfil i en webbplats rotkatalog (yoursite.com/robots.txt). En grupp börjar med en eller flera User-agent-rader som namnger crawlare, följt av Allow- och Disallow-rader för sökvägar. En crawlare som namnges i en grupp följer grupperna där den namnges och ignorerar gruppen för alla crawlare (User-agent: *).
För att släppa in den
User-agent: DuckAssistBot
Allow: /För att stänga den ute
User-agent: DuckAssistBot
Disallow: /Släpper din webbplats in den?
Den kostnadsfria kontrollen läser din robots.txt för DuckAssistBot och begär din sida med dess användaragent. Då ser du om en regel i robots.txt eller en brandvägg stänger den ute.