Playbook · Passage des robots dans vos journaux
GPTBot n'a pas encore visité votre site
Aucune visite de GPTBot repérée dans vos journaux : GPTBot sert à l'entraînement, la recherche de ChatGPT passe par OAI-SearchBot.
- DifficultéFacile
- Temps estimé30 min
Pourquoi c’est important#
- Selon OpenAI, GPTBot sert à rendre ses modèles de fondation plus utiles et plus sûrs : il explore des contenus qui peuvent servir à l'entraînement. Son absence dans vos journaux n'empêche pas, en soi, d'être cité dans les réponses de recherche de ChatGPT.
- Le robot à regarder pour la recherche de ChatGPT est OAI-SearchBot, qui sert à faire apparaître les sites dans ses résultats de recherche. ChatGPT-User, lui, agit à la demande d'un utilisateur.
- Une absence peut venir d'un blocage (robots.txt, pare-feu) ou d'un site encore peu connu : seuls vos journaux et votre robots.txt permettent de trancher.
Étapes à suivre#
Vous pouvez les appliquer vous-même, pas à pas, dans l’ordre.
- Vérifiez robots.txt : pas de
Disallowpour OAI-SearchBot (recherche) ni, si vous l'acceptez, pour GPTBot (entraînement). - Cherchez dans vos journaux d'accès les User-Agent GPTBot, OAI-SearchBot et ChatGPT-User (voir l'exemple), et vérifiez l'origine d'une requête avec les plages d'adresses IP publiées par OpenAI.
- Vérifiez qu'un pare-feu ou un CDN ne bloque pas ces robots. OpenAI indique qu'une modification de robots.txt peut prendre environ 24 heures à être prise en compte.
- Ne cherchez pas à « soumettre » votre site : dans la documentation d'OpenAI consultée, aucune procédure de soumission n'est décrite ; OpenAI demande de ne pas bloquer OAI-SearchBot.
Exemples#
grep -E "GPTBot|OAI-SearchBot|ChatGPT-User" /var/log/nginx/access.logUser-agent: OAI-SearchBot
Allow: /
User-agent: GPTBot
Disallow: /Sources officielles#
Les affirmations de cette fiche s’appuient sur les pages suivantes, rédigées par les éditeurs concernés.
Fiches voisines#
Dans la même catégorie : Passage des robots dans vos journaux.
- ClaudeBot n'a pas encore visité votre siteAucune visite de ClaudeBot repérée : ClaudeBot sert à l'entraînement, la recherche de Claude passe par Claude-SearchBot.
- PerplexityBot n'a pas encore visité votre sitePerplexityBot est le robot de Perplexity qui fait apparaître les sites dans ses résultats.
- Google-Extended n'a pas encore visité votre siteGoogle-Extended conditionne l'entraînement/le grounding Gemini, jamais votre apparition dans les AI Overviews ou l'AI Mode de Google Search.
- Ratio de crawls IA / total trop basLes robots d'IA représentent une faible part des visites de robots dans vos journaux : à interpréter avant de conclure.
- Surveiller le crawl des robots d’IARepérer GPTBot, ClaudeBot, PerplexityBot et les autres dans vos journaux, et comprendre ce que leurs passages disent de votre visibilité.
Toutes les fiches du playbook · Qu’est-ce que le GEO ? · Notre méthodologie