Meta-WebIndexer: crawler di ricerca gestito da Meta

Meta-WebIndexer è un crawler di ricerca. Legge le pagine per creare l’indice usato da questo prodotto: Ricerca con Meta AI. È gestito da Meta.

In breve

Gestore
Meta
Identificativo robots.txt
Meta-WebIndexer
Scopo
Ricerca. I crawler di ricerca leggono le pagine per costruire l’indice che un assistente consulta quando risponde. Se non possono leggere una pagina, questa non può comparire né essere citata in quelle risposte.
Cosa alimenta
Ricerca con Meta AI

Effetti del blocco

Se blocchi Meta-WebIndexer, le tue pagine non potranno comparire né essere citate nelle risposte di ricerca di questo prodotto: Ricerca con Meta AI.

User agent

Uno user agent rappresentativo per Meta-WebIndexer. Usiamo la documentazione degli operatori quando è disponibile la stringa completa. Le versioni e i dettagli del browser nei log effettivi del server possono variare.

meta-webindexer/1.1 (+/documentation/sharing/webmasters/web-crawlers)

Regole robots.txt per Meta-WebIndexer

robots.txt è un file di testo semplice nella directory principale di un sito (yoursite.com/robots.txt). Un gruppo inizia con una o più righe User-agent che indicano i crawler, seguite da righe Allow e Disallow per i percorsi. Un crawler indicato in un gruppo segue i gruppi che lo nominano e ignora quello valido per tutti i crawler (User-agent: *).

Per consentire l’accesso

User-agent: Meta-WebIndexer
Allow: /

Per bloccare l’accesso

User-agent: Meta-WebIndexer
Disallow: /

Il tuo sito gli consente l’accesso?

Il controllo dei crawler legge il tuo robots.txt per Meta-WebIndexer e richiede una pagina usando il suo user agent. Ti mostra così se a bloccarlo è una regola robots.txt o un firewall.

Controlla se il tuo sito consente l’accesso a Meta-WebIndexer

Domande su Meta-WebIndexer

Meta-WebIndexer è un crawler di ricerca. Legge le pagine per creare l’indice usato da questo prodotto: Ricerca con Meta AI. È gestito da Meta.

Solo se non vuoi che le tue pagine compaiano nelle risposte di ricerca di questo prodotto: Ricerca con Meta AI. Il blocco non riguarda i crawler con altri nomi.

Aggiungi un gruppo con il suo nome e una regola valida per tutti i percorsi: “User-agent: Meta-WebIndexer”, seguita da “Disallow: /”. Per consentirgli l’accesso, scrivi invece “Allow: /”.