cohere-ai: ein Trainings-Crawler, den Cohere betreibt
cohere-ai ist ein Trainings-Crawler. Er sammelt Seiten für den jeweiligen Zweck (Cohere-Modelle). Betrieben wird er von Cohere.
Auf einen Blick
- Betreiber
- Cohere
- robots.txt-Token
cohere-ai- Zweck
- Training. Trainings-Crawler sammeln Seiten für künftige Modelle. Wenn Sie sie aussperren, halten Sie damit nicht die Crawler auf, die Seiten für Antworten abrufen. Diese haben eigene Namen.
- Wofür er Daten liefert
- Cohere-Modelle
Was sich durch das Blockieren ändert
Wenn Sie cohere-ai aussperren, werden Ihre Seiten nicht für den jeweiligen Zweck (Cohere-Modelle) gesammelt. Die Crawler, die Seiten für Antworten abrufen, haben eigene Namen und können Ihre Website weiterhin lesen.
robots.txt-Zeilen für cohere-ai
robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website (yoursite.com/robots.txt). Eine Gruppe beginnt mit einer oder mehreren User-agent-Zeilen, die Crawler benennen. Darauf folgen Allow- und Disallow-Zeilen für Pfade. Ein Crawler, der in einer Gruppe namentlich genannt wird, befolgt die Gruppen mit seinem Namen und ignoriert die Gruppe für alle Crawler (User-agent: *).
Zulassen
User-agent: cohere-ai
Allow: /Sperren
User-agent: cohere-ai
Disallow: /Lässt Ihre Website den Crawler zu?
cohere-ai ist ausschließlich ein Name für robots.txt-Regeln. Die Crawler-Prüfung liest dafür die robots.txt und sendet unter diesem Namen keine Anfrage.