Bytespider: robot treningowy, za którego odpowiada ByteDance

Bytespider to robot treningowy. Zbiera strony na potrzeby Doubao. Za robota odpowiada ByteDance.

W skrócie

Podmiot prowadzący stronę
ByteDance
nazwa robota w robots.txt
Bytespider
Zastosowanie
Trenowanie. Roboty treningowe zbierają strony na potrzeby przyszłych modeli. Ich zablokowanie nie zatrzymuje robotów pobierających strony na potrzeby odpowiedzi, ponieważ działają one pod innymi nazwami.
Do czego służy
Doubao

Co zmienia zablokowanie

Jeśli Bytespider nie ma dostępu do twoich stron, Doubao nie uwzględni ich w zbieranych danych. Roboty pobierające strony na potrzeby odpowiedzi działają pod innymi nazwami, więc nadal mogą czytać twoją witrynę.

Identyfikator User-Agent

Przykładowy ciąg User-Agent, którego używa Bytespider. Jeśli operator publikuje pełny ciąg, korzystamy z jego dokumentacji. W rzeczywistych logach serwera wersje i szczegóły przeglądarki mogą się różnić.

Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; https://zhanzhang.toutiao.com/)

Reguły robots.txt: Bytespider

robots.txt to zwykły plik tekstowy w katalogu głównym witryny (yoursite.com/robots.txt). Grupa zaczyna się od jednego lub kilku wierszy User-agent z nazwami robotów, po których następują reguły Allow i Disallow dla ścieżek. Robot wymieniony w grupie stosuje reguły grup, w których podano jego nazwę, i ignoruje grupę ogólną dla wszystkich robotów (User-agent: *).

Aby zezwolić na dostęp

User-agent: Bytespider
Allow: /

Aby zablokować dostęp

User-agent: Bytespider
Disallow: /

Czy ma dostęp do twojej strony?

Bezpłatny test sprawdza reguły robots.txt, a następnie wysyła żądanie z identyfikatorem User-Agent, którego używa Bytespider. Dzięki temu pokazuje, czy dostęp blokuje reguła robots.txt lub zapora sieciowa.

Sprawdź, czy Bytespider ma dostęp do twojej strony

Pytania o Bytespider

Bytespider to robot treningowy. Zbiera strony na potrzeby Doubao. Za robota odpowiada ByteDance.

To twój wybór. Jeśli go zablokujesz, twoje strony nie trafią do danych zbieranych na potrzeby tego produktu (Doubao). Nie zablokuje to jednak robotów, które pobierają strony, by przygotować odpowiedzi.

Dodaj grupę z nazwą robota i regułą obejmującą wszystkie ścieżki: „User-agent: Bytespider”, a pod nią „Disallow: /”. Aby zezwolić na dostęp, wpisz zamiast tego „Allow: /”.