GPTBot: ein Trainings-Crawler, den OpenAI betreibt

GPTBot ist ein Trainings-Crawler. Er sammelt Seiten für den jeweiligen Zweck (künftige OpenAI-Modelle). Betrieben wird er von OpenAI.

Auf einen Blick

Betreiber
OpenAI
robots.txt-Token
GPTBot
Zweck
Training. Trainings-Crawler sammeln Seiten für künftige Modelle. Wenn Sie sie aussperren, halten Sie damit nicht die Crawler auf, die Seiten für Antworten abrufen. Diese haben eigene Namen.
Wofür er Daten liefert
künftige OpenAI-Modelle

Was sich durch das Blockieren ändert

Wenn Sie GPTBot aussperren, werden Ihre Seiten nicht für den jeweiligen Zweck (künftige OpenAI-Modelle) gesammelt. Die Crawler, die Seiten für Antworten abrufen, haben eigene Namen und können Ihre Website weiterhin lesen.

User-Agent

Ein repräsentativer User-Agent (GPTBot). Wir richten uns nach der Dokumentation des jeweiligen Betreibers, sofern darin die vollständige Zeichenfolge veröffentlicht ist. Versions- und Browserangaben in echten Serverprotokollen können davon abweichen.

Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.4; +https://openai.com/gptbot

robots.txt-Zeilen für GPTBot

robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website (yoursite.com/robots.txt). Eine Gruppe beginnt mit einer oder mehreren User-agent-Zeilen, die Crawler benennen. Darauf folgen Allow- und Disallow-Zeilen für Pfade. Ein Crawler, der in einer Gruppe namentlich genannt wird, befolgt die Gruppen mit seinem Namen und ignoriert die Gruppe für alle Crawler (User-agent: *).

Zulassen

User-agent: GPTBot
Allow: /

Sperren

User-agent: GPTBot
Disallow: /

Lässt Ihre Website den Crawler zu?

Die kostenlose Crawler-Prüfung liest Ihre robots.txt für GPTBot und ruft Ihre Seite mit dessen User-Agent auf. So zeigt sie, ob eine robots.txt-Regel oder eine Firewall den Crawler abweist.

Prüfen Sie, ob Ihre Website GPTBot zulässt

Fragen zu GPTBot

GPTBot ist ein Trainings-Crawler. Er sammelt Seiten für den jeweiligen Zweck (künftige OpenAI-Modelle). Betrieben wird er von OpenAI.

Das entscheiden Sie. Wenn Sie den Crawler blockieren, werden Ihre Seiten nicht für den jeweiligen Zweck (künftige OpenAI-Modelle) gesammelt. Die Crawler, die Seiten für Antworten abrufen, bleiben davon unberührt.

Fügen Sie eine Gruppe mit diesem Namen und einer Regel für alle Pfade hinzu: „User-agent: GPTBot“, gefolgt von „Disallow: /“. Wenn Sie den Crawler zulassen möchten, schreiben Sie stattdessen „Allow: /“.