robots.txt-generator til AI
Vælg, hvilke AI-crawlere der må læse dit website. Start med en forudindstilling, tilpas hver enkelt crawler, og download AI-delen af din robots.txt-fil. Gratis og uden krav om konto.
Gratis og uden tilmelding. Dine valg gemmes i sidens URL, så du kan dele dem.
Dine AI-regler i robots.txt
# aigrow.gg/tools/ai-robots-txt
User-agent: OAI-SearchBot
User-agent: ChatGPT-User
User-agent: Claude-SearchBot
User-agent: Claude-User
User-agent: PerplexityBot
User-agent: Perplexity-User
User-agent: Applebot
User-agent: DuckAssistBot
User-agent: MistralAI-User
User-agent: Meta-ExternalFetcher
User-agent: Amazonbot
User-agent: YouBot
Allow: /
User-agent: GPTBot
User-agent: ClaudeBot
User-agent: Google-Extended
User-agent: Applebot-Extended
User-agent: Meta-ExternalAgent
User-agent: CCBot
User-agent: Bytespider
User-agent: cohere-ai
Disallow: /
Indsæt disse regler i robots.txt i roden af dit website, og behold en eventuel eksisterende gruppe med User-agent: *.
Denne gratis AI-generator til robots.txt skriver regler for crawlerne i AIGrows oversigt. Som standard giver den søgecrawlere og crawlere, der åbner sider på anmodning, adgang og blokerer crawlere, der indsamler træningsdata. Vælg en anden forudindstilling, eller tilpas de enkelte crawlere. Tilføj stier, der skal udelukkes, og kopiér eller download derefter reglerne til dit website.
Sådan fungerer det
- Vælg et udgangspunkt
- Som standard får søgecrawlere og crawlere, der åbner sider på anmodning, adgang, mens crawlere, der indsamler træningsdata, blokeres. Du kan også tillade alle crawlere, blokere dem alle eller tilpasse hver enkelt.
- Samme regler samles i én gruppe
- Crawlere med samme regler samles i en gruppe med flere User-agent-linjer. Navnene kommer fra oversigten over AI-crawlere. Googlebot og Bingbot er udeladt, fordi de også crawler for Google Search og Bing.
- Stier gælder for alle grupper
- En crawler, der er nævnt i en gruppe, arver ikke reglerne fra gruppen User-agent: *, som beskrevet i RFC 9309. Ekstra Disallow-stier føjes til alle AI-grupper. Andre stier forbliver tilgængelige for de crawlere, du tillader.
- Behold resten af din fil
- Generatoren skriver kun AI-grupperne. Behold din eksisterende User-agent: *-gruppe og andre poster, herunder links til sitemaps. Erstat gamle grupper med navnene på de samme crawlere, og overfør de stier, du fortsat vil udelukke.
Spørgsmål om AI-crawlere
Kan AI-assistenter læse siderne om din virksomhed?
Kør den gratis scanning for at tjekke adgangen og se, hvad assistenter siger om din virksomhed.