Bytespider: robot treningowy, za którego odpowiada ByteDance
Bytespider to robot treningowy. Zbiera strony na potrzeby Doubao. Za robota odpowiada ByteDance.
W skrócie
- Podmiot prowadzący stronę
- ByteDance
- nazwa robota w robots.txt
Bytespider- Zastosowanie
- Trenowanie. Roboty treningowe zbierają strony na potrzeby przyszłych modeli. Ich zablokowanie nie zatrzymuje robotów pobierających strony na potrzeby odpowiedzi, ponieważ działają one pod innymi nazwami.
- Do czego służy
- Doubao
Co zmienia zablokowanie
Jeśli Bytespider nie ma dostępu do twoich stron, Doubao nie uwzględni ich w zbieranych danych. Roboty pobierające strony na potrzeby odpowiedzi działają pod innymi nazwami, więc nadal mogą czytać twoją witrynę.
Identyfikator User-Agent
Pełny identyfikator User-Agent z dokumentacji operatora. Żądania wysyłane przez Bytespider zawierają ten tekst, który widać w logach serwera.
Mozilla/5.0 (Linux; Android 5.0) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; Bytespider; [email protected])Reguły robots.txt: Bytespider
robots.txt to zwykły plik tekstowy w katalogu głównym witryny (yoursite.com/robots.txt). Grupa zaczyna się od jednego lub kilku wierszy User-agent z nazwami robotów, po których następują reguły Allow i Disallow dla ścieżek. Robot wymieniony w grupie stosuje reguły grup, w których podano jego nazwę, i ignoruje grupę ogólną dla wszystkich robotów (User-agent: *).
Aby zezwolić na dostęp
User-agent: Bytespider
Allow: /Aby zablokować dostęp
User-agent: Bytespider
Disallow: /Czy ma dostęp do twojej strony?
Bezpłatny test sprawdza reguły robots.txt, a następnie wysyła żądanie z identyfikatorem User-Agent, którego używa Bytespider. Dzięki temu pokazuje, czy dostęp blokuje reguła robots.txt lub zapora sieciowa.