Playbook · Passage des robots dans vos journaux

ClaudeBot n'a pas encore visité votre site

Aucune visite de ClaudeBot repérée : ClaudeBot sert à l'entraînement, la recherche de Claude passe par Claude-SearchBot.

  • DifficultéFacile
  • Temps estimé30 min

Par l’équipe GeoMetrickMis à jour le

Pourquoi c’est important#

  • Selon Anthropic, ClaudeBot collecte du contenu web pour l'entraînement de ses modèles. Claude-SearchBot explore le web pour améliorer la qualité des résultats de recherche, et Claude-User récupère une page quand un utilisateur pose une question.
  • Anthropic précise que bloquer Claude-SearchBot peut réduire la visibilité d'un site dans les réponses de recherche de Claude, et que désactiver Claude-User empêche de récupérer votre contenu en réponse à une question d'utilisateur.
  • Anthropic publie les adresses IP de ses robots, ce qui permet de vérifier qu'une requête vient bien d'eux.

Étapes à suivre#

Vous pouvez les appliquer vous-même, pas à pas, dans l’ordre.

  1. Vérifiez robots.txt : pas de Disallow pour Claude-SearchBot ni Claude-User, et, si vous acceptez l'entraînement, pour ClaudeBot.
  2. Cherchez dans vos journaux d'accès les User-Agent ClaudeBot, Claude-SearchBot et Claude-User (voir l'exemple).
  3. Vérifiez qu'un pare-feu ou un CDN ne bloque pas ces robots.

Exemples#

Chercher les robots d'Anthropic dans un journal d'accès
grep -E "ClaudeBot|Claude-SearchBot|Claude-User" /var/log/nginx/access.log
robots.txt : autoriser la recherche, refuser l'entraînement
User-agent: Claude-SearchBot
Allow: /

User-agent: ClaudeBot
Disallow: /

Sources officielles#

Les affirmations de cette fiche s’appuient sur les pages suivantes, rédigées par les éditeurs concernés.

Fiches voisines#

Dans la même catégorie : Passage des robots dans vos journaux.

Toutes les fiches du playbook · Qu’est-ce que le GEO ? · Notre méthodologie