Meta-WebIndexer: robot wyszukiwarki, za którego odpowiada Meta
Meta-WebIndexer to robot wyszukiwarki. Czyta strony, aby tworzyć indeks, z którego korzysta Wyszukiwanie Meta AI. Za robota odpowiada Meta.
W skrócie
- Podmiot prowadzący stronę
- Meta
- nazwa robota w robots.txt
Meta-WebIndexer- Zastosowanie
- Wyszukiwanie. Roboty wyszukiwarek czytają strony, aby zbudować indeks, który asystent przeszukuje podczas udzielania odpowiedzi. Strony, której nie mogą odczytać, nie znajdą ani nie zacytują w tych odpowiedziach.
- Do czego służy
- Wyszukiwanie Meta AI
Co zmienia zablokowanie
Jeśli Meta-WebIndexer nie ma dostępu do twoich stron, Wyszukiwanie Meta AI nie może ich znaleźć ani cytować w odpowiedziach wyszukiwania.
Identyfikator User-Agent
Przykładowy ciąg User-Agent, którego używa Meta-WebIndexer. Jeśli operator publikuje pełny ciąg, korzystamy z jego dokumentacji. W rzeczywistych logach serwera wersje i szczegóły przeglądarki mogą się różnić.
meta-webindexer/1.1 (+/documentation/sharing/webmasters/web-crawlers)Reguły robots.txt: Meta-WebIndexer
robots.txt to zwykły plik tekstowy w katalogu głównym witryny (yoursite.com/robots.txt). Grupa zaczyna się od jednego lub kilku wierszy User-agent z nazwami robotów, po których następują reguły Allow i Disallow dla ścieżek. Robot wymieniony w grupie stosuje reguły grup, w których podano jego nazwę, i ignoruje grupę ogólną dla wszystkich robotów (User-agent: *).
Aby zezwolić na dostęp
User-agent: Meta-WebIndexer
Allow: /Aby zablokować dostęp
User-agent: Meta-WebIndexer
Disallow: /Czy ma dostęp do twojej strony?
Bezpłatny test sprawdza reguły robots.txt, a następnie wysyła żądanie z identyfikatorem User-Agent, którego używa Meta-WebIndexer. Dzięki temu pokazuje, czy dostęp blokuje reguła robots.txt lub zapora sieciowa.