Können KI-Assistenten Ihre Website lesen?
Geben Sie die Adresse einer Seite ein. Der Check liest ihre robots.txt und ruft die Seite als jeder einzelne KI-Crawler auf. Anschließend sehen Sie, welche Crawler die Seite lesen können und welche abgewiesen werden.
Kostenlos, ohne Konto und ohne E-Mail-Adresse. Die Prüfung dauert einige Sekunden.
Der KI-Crawler-Check liest die robots.txt einer Seite und ruft die Seite jeweils einmal als KI-Crawler auf, etwa als OAI-SearchBot, ChatGPT-User, PerplexityBot und Claude-User. Er zeigt, welche Crawler die Seite lesen dürfen und welche von einer Firewall oder einem CDN abgewiesen werden. Der Check ist kostenlos, erfordert kein Konto und dauert einige Sekunden.
So funktioniert die Prüfung
- robots.txt
- Die robots.txt der Website wird einmal gelesen. Für jeden Crawler werden die Regeln für die Seite gemäß RFC 9309 angewendet: Die Gruppe, die den Crawler namentlich nennt, hat Vorrang vor der Gruppe für alle Crawler.
- Eine Anfrage pro Crawler
- Die Seite wird einmal mit dem veröffentlichten User-Agent jedes Crawlers aufgerufen. Wird die Seite ausgeliefert, gilt sie als lesbar. Wird die Anfrage abgelehnt oder eine Prüfseite angezeigt, gilt der Crawler als abgewiesen.
- Kontrollanfrage
- Die Seite wird auch als gewöhnlicher Browser aufgerufen. Wird diese Anfrage ebenfalls abgelehnt, lassen die Crawler-Anfragen keine Aussage speziell über Crawler zu. Dann wird nur die robots.txt bewertet.
- Die Einschränkung
- Unsere Anfragen kommen von unserer eigenen Adresse. Eine Firewall, die die veröffentlichten IP-Adressen eines Crawlers prüft, kann unsere Anfrage ablehnen und den echten Crawler trotzdem zulassen. Deshalb werden Googlebot und Bingbot nur anhand der robots.txt bewertet.
Jeder Crawler in der Tabelle hat eine eigene Seite in der Liste der KI-Crawler.
Fragen zu KI-Crawlern
Sehen Sie, was die Assistenten über Sie sagen
Der kostenlose Scan liest Ihre Website, prüft dieselben Crawler und stellt Assistenten die Fragen, die Ihre Käufer stellen.