Playbook · Passage des robots dans vos journaux

GPTBot n'a pas encore visité votre site

Aucune visite de GPTBot repérée dans vos journaux : GPTBot sert à l'entraînement, la recherche de ChatGPT passe par OAI-SearchBot.

  • DifficultéFacile
  • Temps estimé30 min

Par l’équipe GeoMetrickMis à jour le

Pourquoi c’est important#

  • Selon OpenAI, GPTBot sert à rendre ses modèles de fondation plus utiles et plus sûrs : il explore des contenus qui peuvent servir à l'entraînement. Son absence dans vos journaux n'empêche pas, en soi, d'être cité dans les réponses de recherche de ChatGPT.
  • Le robot à regarder pour la recherche de ChatGPT est OAI-SearchBot, qui sert à faire apparaître les sites dans ses résultats de recherche. ChatGPT-User, lui, agit à la demande d'un utilisateur.
  • Une absence peut venir d'un blocage (robots.txt, pare-feu) ou d'un site encore peu connu : seuls vos journaux et votre robots.txt permettent de trancher.

Étapes à suivre#

Vous pouvez les appliquer vous-même, pas à pas, dans l’ordre.

  1. Vérifiez robots.txt : pas de Disallow pour OAI-SearchBot (recherche) ni, si vous l'acceptez, pour GPTBot (entraînement).
  2. Cherchez dans vos journaux d'accès les User-Agent GPTBot, OAI-SearchBot et ChatGPT-User (voir l'exemple), et vérifiez l'origine d'une requête avec les plages d'adresses IP publiées par OpenAI.
  3. Vérifiez qu'un pare-feu ou un CDN ne bloque pas ces robots. OpenAI indique qu'une modification de robots.txt peut prendre environ 24 heures à être prise en compte.
  4. Ne cherchez pas à « soumettre » votre site : dans la documentation d'OpenAI consultée, aucune procédure de soumission n'est décrite ; OpenAI demande de ne pas bloquer OAI-SearchBot.

Exemples#

Chercher les robots d'OpenAI dans un journal d'accès
grep -E "GPTBot|OAI-SearchBot|ChatGPT-User" /var/log/nginx/access.log
robots.txt : autoriser la recherche, refuser l'entraînement
User-agent: OAI-SearchBot
Allow: /

User-agent: GPTBot
Disallow: /

Sources officielles#

Les affirmations de cette fiche s’appuient sur les pages suivantes, rédigées par les éditeurs concernés.

Fiches voisines#

Dans la même catégorie : Passage des robots dans vos journaux.

Toutes les fiches du playbook · Qu’est-ce que le GEO ? · Notre méthodologie