Bytespider: En træningscrawler, som drives af ByteDance

Bytespider er en træningscrawler. Den indsamler sider til Doubao. Operatøren er ByteDance.

Overblik

Ansvarlig virksomhed
ByteDance
robots.txt-token
Bytespider
Formål
Træning. Træningscrawlere indsamler sider til fremtidige modeller. Hvis du blokerer dem, stopper det ikke de crawlere, der henter sider til svar. De har deres egne navne.
Hvad den leverer data til
Doubao

Hvad det ændrer at blokere den

Hvis du blokerer Bytespider, kommer dine sider ikke med i det, den indsamler til Doubao. De crawlere, der henter sider til svar, har deres egne navne og kan derfor stadig læse dit website.

User agent

En repræsentativ user agent for Bytespider. Vi bruger operatørens dokumentation, når den fulde streng er offentliggjort. Versionsnumre og browseroplysninger i faktiske serverlogs kan variere.

Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; https://zhanzhang.toutiao.com/)

Linjer i robots.txt for Bytespider

robots.txt er en almindelig tekstfil i roden af et website (yoursite.com/robots.txt). En gruppe begynder med en eller flere User-agent-linjer, der navngiver crawlere, efterfulgt af Allow- og Disallow-linjer for stier. En crawler, der er nævnt i en gruppe, følger de grupper, hvor dens navn står, og ignorerer gruppen for alle crawlere (User-agent: *).

Tillad adgang

User-agent: Bytespider
Allow: /

Blokér adgang

User-agent: Bytespider
Disallow: /

Giver dit website adgang?

Det gratis crawlertjek læser din robots.txt for Bytespider og henter din side med crawlerens user agent. Så kan du se, om en regel i robots.txt eller en firewall afviser den.

Tjek, om dit website giver adgang til Bytespider

Spørgsmål om Bytespider

Bytespider er en træningscrawler. Den indsamler sider til Doubao. Operatøren er ByteDance.

Det bestemmer du selv. Hvis du blokerer den, kommer dine sider ikke med i det, den indsamler til Doubao. Det blokerer ikke de crawlere, der henter sider til svar.

Tilføj en gruppe med crawlerens navn og en regel for alle stier: “User-agent: Bytespider” efterfulgt af “Disallow: /”. Vil du give den adgang, skal du skrive “Allow: /” i stedet.