Entrez votre domaine
Nous résolvons votre URL et récupérons robots.txt à la racine de votre site.
Les crawlers IA sont-ils vraiment autorisés à lire votre site ?
Nous vérifions ce que dit votre robots.txt et ce que renvoie votre serveur quand GPTBot, ClaudeBot, PerplexityBot, Googlebot et CCBot demandent vos pages.
Checked across OpenAI, Anthropic, Perplexity, Google and Common Crawl
Comment ça marche
Un bot peut être autorisé dans robots.txt mais bloqué par votre CDN, WAF ou hébergeur. Nous testons les deux pour une vue complète.
Nous résolvons votre URL et récupérons robots.txt à la racine de votre site.
Chaque règle User-agent, Allow et Disallow est vérifiée pour chaque crawler IA.
Nous demandons votre page d'accueil en tant que chaque bot et comparons la réponse serveur à robots.txt.
Couverture
Il vérifie si les principaux crawlers IA sont autorisés à lire votre site. Pour chaque bot, nous vérifions la politique robots.txt et la réponse serveur en direct.
GPTBot, OAI-SearchBot, ChatGPT-User, ClaudeBot, Claude-SearchBot, Claude-User, PerplexityBot, Googlebot, Google-Extended et CCBot.
Voyez exactement quelle règle Disallow ou Allow s'applique à chaque bot.
Nous demandons votre page avec chaque user-agent bot et lisons le code HTTP.
Repérez quand robots.txt autorise un bot mais que votre firewall ou CDN le bloque quand même.
FAQ
Il vérifie si les principaux crawlers IA sont autorisés à lire votre site. Pour chaque bot, nous vérifions deux choses : ce que dit votre robots.txt, et ce que renvoie réellement votre serveur quand ce bot demande une page.
GPTBot, OAI-SearchBot et ChatGPT-User d'OpenAI. ClaudeBot, Claude-SearchBot et Claude-User d'Anthropic. PerplexityBot. Googlebot et Google-Extended de Google. Et CCBot de Common Crawl.
robots.txt peut autoriser un bot alors que votre firewall ou CDN le bloque quand même. Le test en direct révèle les écarts entre votre politique déclarée et ce que les bots vivent réellement.
Nous le signalons comme Mixte. En général, cela signifie que votre WAF, protection bot ou règles d'hébergement bloquent le user-agent alors que robots.txt l'autorise.
Non. Cet outil est gratuit et fonctionne sans inscription. Pour un suivi IA quotidien et des benchmarks concurrents, réservez un appel ou démarrez un plan BeConsole.
Commencer
Entrez votre site. Recevez une vue priorisée de vos plus grandes opportunités organiques sous 48 heures.