Kunnen AI-assistenten je site lezen?
Voer het adres van een pagina in. De check leest het robots.txt-bestand en vraagt de pagina op als elke AI-crawler. Daarna zie je welke crawlers de pagina kunnen lezen en welke worden geweigerd.
Gratis, zonder account of e-mailadres. De controle duurt enkele seconden.
De AI-crawlercheck leest het robots.txt-bestand van een pagina en vraagt de pagina één keer op als elke AI-crawler, zoals OAI-SearchBot, ChatGPT-User, PerplexityBot en Claude-User. Je ziet welke crawlers de pagina mogen lezen en welke door een firewall of CDN worden geweigerd. De check is gratis, vereist geen account en duurt enkele seconden.
Hoe deze controle werkt
- robots.txt
- Het robots.txt-bestand van de site wordt één keer gelezen. Daarna worden de regels voor elke crawler op de pagina toegepast zoals beschreven in RFC 9309: een groep die de crawler bij naam noemt, gaat vóór de groep voor alle crawlers.
- Een verzoek als elke crawler
- De pagina wordt één keer opgevraagd met de gepubliceerde useragent van elke crawler. Als de pagina wordt geladen, geldt deze als leesbaar. Een weigering of verificatiepagina telt als geweigerd.
- Controleverzoek
- De pagina wordt ook opgevraagd als een gewone browser. Als ook dat verzoek wordt geweigerd, zeggen de crawlerverzoeken niets over crawlers in het bijzonder en beoordelen we alleen robots.txt.
- De beperking
- Onze verzoeken komen vanaf ons eigen adres. Een firewall die de gepubliceerde IP-adressen van een crawler controleert, kan ons verzoek weigeren maar de echte crawler wel toelaten. Daarom beoordelen we Googlebot en Bingbot alleen op basis van robots.txt.
Elke crawler in de tabel heeft een eigen pagina in de lijst met AI-crawlers.
Vragen over AI-crawlers
Bekijk wat assistenten over je zeggen
De gratis scan leest je site, controleert dezelfde crawlers en stelt assistenten de vragen die je potentiële klanten stellen.