Attention ! Les liens de la chat-IA Claude peuvent apparaître dans la recherche Google
JAKARTA - Des centaines de conversations partagées via la fonction « Partager » sur Claude AI ont apparues dans les résultats de recherche de Google et Bing. Cette incident a suscité des inquiétudes quant à la vie privée des utilisateurs après que de nombreux documents sensibles ont été indexés par les moteurs de recherche.
Ces conclusions ont d'abord été révélées par un utilisateur de Reddit qui a découvert que les moteurs de recherche tels que « site:claude.ai/share » pouvaient afficher des centaines de liens de conversations avec Claude AI et des artefacts qui avaient auparavant été partagés publiquement.
Plusieurs pages indexées sont censées contenir des informations sensibles, allant des documents d’entreprise, des dossiers médicaux de patients, des revues internes d’employés, des curriculum vitae (CV), des clés API (API keys) jusqu’à de nombreux prompts personnels qui n’auraient jamais été prévus dans les résultats de recherche.
Le problème vient de la fonction « Partager » de Claude AI qui permet aux utilisateurs de créer des liens publics pour partager des copies de conversations avec d'autres personnes.
Anthropic explique que l’entreprise n’a jamais créé de répertoire public ni de sitemap contenant des conversations d’utilisateurs. Cependant, lorsque les liens sont partagés sur des forums, des médias sociaux ou des sites Web ouverts, les robots de recherche peuvent les trouver automatiquement.
Techniquement, Anthropic a effectivement installé un fichier robots.txt demandant à Google et Bing de ne pas indexer les pages avec l'adresse « claude.ai/share ». Cependant, ce mécanisme n'empêche pas toujours les pages d'apparaître dans l'index des moteurs de recherche.
Selon la documentation technique de Google et Bing, si une page obtient un lien d'un autre site accessible au public, le moteur de recherche peut toujours indexer l'URL, même si elle est bloquée par robots.txt.
Pour éviter cela, les développeurs de sites sont conseillés d'ajouter le tag HTML « noindex » ou un en-tête HTTP qui donne des instructions directes aux moteurs de recherche de ne pas inclure une page dans l'index de recherche.
L'article de 404 Media indique que la page de discussion partagée via Claude AI à l'époque n'utilisait pas le tag noindex. En conséquence, les moteurs de recherche peuvent toujours indexer ces pages après les avoir trouvées sur Internet.
En répondant à l’incident, le porte-parole de Google, Ned Adriance, a déclaré que le moteur de recherche ne détermine pas si un contenu est publié ou non. Selon lui, la réponse à la question de savoir s’il est possible d’enlever des pages des résultats de recherche appartient au proprietaire du site par l’application de mécanismes techniques appropriés, tels que les balises noindex.
Des cas similaires ont été été événés auparavant avec d’autres services de chatbots IA. L’an dernier, un certain nombre de conversations partagées via ChatGPT ont été indexées par les moteurs de recherche avant que OpenAI ne change le mécanisme de partage des liens. Des incidents similaires ont été réportes au sujet du chatbot Grok de xAI.
Peu de temps après que le rapport sur Claude AI a été publié, les résultats de recherche de Google affichant le lien de la conversation ont commencé à disparaître. Cela indique que Anthropic a pris des mesures pour empêcher le moteur de recherche d'accéder à la page.
Anthropic invite également les utilisateurs à revoir les liens des conversations qu’ils ont partagés. Les utilisateurs peuvent ouvrir le menu Paramètres, puis la Vie privée, puis Chats partagés pour voir tous les liens publics qu’ils ont été réalisés et retirer l’accès public s’il n’est plus necessaire.
Bien que le problème ait été résolu, cet incident rappelle que chaque lien partagé publiquement peut être trouvé par les moteurs de recherche s'il n'est pas protégé par un mécanisme approprié.