ChatGPT-User: ein Crawler, den OpenAI betreibt und der Seiten auf Anfrage öffnet
ChatGPT-User ist ein Nutzer-Crawler. Er öffnet eine Seite, wenn jemand das jeweilige Angebot (ChatGPT) bittet, sie zu lesen. Betrieben wird er von OpenAI.
Auf einen Blick
- Betreiber
- OpenAI
- robots.txt-Token
ChatGPT-User- Zweck
- Nutzeranfrage. Nutzer-Crawler öffnen eine einzelne Seite, wenn jemand einen Assistenten bittet, sie zu lesen. Können sie die Seite nicht lesen, lässt sie sich in diesem Gespräch nicht öffnen.
- Wofür er Daten liefert
- ChatGPT
Was sich durch das Blockieren ändert
Eine Disallow-Regel signalisiert, dass ChatGPT-User Ihre Seiten nicht aufrufen soll. Manche durch Nutzer ausgelöste Abrufdienste ignorieren robots.txt möglicherweise. Wenn eine Seite privat bleiben muss, verwenden Sie serverseitige Zugriffskontrollen.
User-Agent
Ein repräsentativer User-Agent (ChatGPT-User). Wir richten uns nach der Dokumentation des jeweiligen Betreibers, sofern darin die vollständige Zeichenfolge veröffentlicht ist. Versions- und Browserangaben in echten Serverprotokollen können davon abweichen.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; ChatGPT-User/1.0; +https://openai.com/botrobots.txt-Zeilen für ChatGPT-User
robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website (yoursite.com/robots.txt). Eine Gruppe beginnt mit einer oder mehreren User-agent-Zeilen, die Crawler benennen. Darauf folgen Allow- und Disallow-Zeilen für Pfade. Ein Crawler, der in einer Gruppe namentlich genannt wird, befolgt die Gruppen mit seinem Namen und ignoriert die Gruppe für alle Crawler (User-agent: *).
Zulassen
User-agent: ChatGPT-User
Allow: /Sperren
User-agent: ChatGPT-User
Disallow: /Lässt Ihre Website den Crawler zu?
Die kostenlose Crawler-Prüfung liest Ihre robots.txt für ChatGPT-User und ruft Ihre Seite mit dessen User-Agent auf. So zeigt sie, ob eine robots.txt-Regel oder eine Firewall den Crawler abweist.