Aller au contenu
BeConsole
Démarrer

Vérificateur de crawlers IA gratuit

Les crawlers IA sont-ils vraiment autorisés à lire votre site ?

Nous vérifions ce que dit votre robots.txt et ce que renvoie votre serveur quand GPTBot, ClaudeBot, PerplexityBot, Googlebot et CCBot demandent vos pages.

Checked across OpenAI, Anthropic, Perplexity, Google and Common Crawl

OpenAI
Anthropic
Perplexity
Google
CCCommon Crawl

Comment ça marche

Deux vérifications par bot, pas seulement robots.txt

Un bot peut être autorisé dans robots.txt mais bloqué par votre CDN, WAF ou hébergeur. Nous testons les deux pour une vue complète.

1

Entrez votre domaine

Nous résolvons votre URL et récupérons robots.txt à la racine de votre site.

2

Analyse des règles robots.txt

Chaque règle User-agent, Allow et Disallow est vérifiée pour chaque crawler IA.

3

Test des requêtes bot en direct

Nous demandons votre page d'accueil en tant que chaque bot et comparons la réponse serveur à robots.txt.

Couverture

Ce que fait le Vérificateur de crawlers IA

Il vérifie si les principaux crawlers IA sont autorisés à lire votre site. Pour chaque bot, nous vérifions la politique robots.txt et la réponse serveur en direct.

10 crawlers IA vérifiés

GPTBot, OAI-SearchBot, ChatGPT-User, ClaudeBot, Claude-SearchBot, Claude-User, PerplexityBot, Googlebot, Google-Extended et CCBot.

Analyse robots.txt

Voyez exactement quelle règle Disallow ou Allow s'applique à chaque bot.

Test serveur en direct

Nous demandons votre page avec chaque user-agent bot et lisons le code HTTP.

Détection d'incohérences

Repérez quand robots.txt autorise un bot mais que votre firewall ou CDN le bloque quand même.

FAQ

Questions sur le vérificateur

Il vérifie si les principaux crawlers IA sont autorisés à lire votre site. Pour chaque bot, nous vérifions deux choses : ce que dit votre robots.txt, et ce que renvoie réellement votre serveur quand ce bot demande une page.

GPTBot, OAI-SearchBot et ChatGPT-User d'OpenAI. ClaudeBot, Claude-SearchBot et Claude-User d'Anthropic. PerplexityBot. Googlebot et Google-Extended de Google. Et CCBot de Common Crawl.

robots.txt peut autoriser un bot alors que votre firewall ou CDN le bloque quand même. Le test en direct révèle les écarts entre votre politique déclarée et ce que les bots vivent réellement.

Nous le signalons comme Mixte. En général, cela signifie que votre WAF, protection bot ou règles d'hébergement bloquent le user-agent alors que robots.txt l'autorise.

Non. Cet outil est gratuit et fonctionne sans inscription. Pour un suivi IA quotidien et des benchmarks concurrents, réservez un appel ou démarrez un plan BeConsole.

Commencer

Commencez par un snapshot gratuit.

Entrez votre site. Recevez une vue priorisée de vos plus grandes opportunités organiques sous 48 heures.

  • Écarts de visibilité multi-canal
  • Opportunités priorisées vs concurrents
  • Plan d'action sous 48 h