JAKARTA - OpenAI et Anthropic ont annoncé une nouvelle mesure visant à améliorer la protection des utilisateurs adolescents en utilisant la technologie d’intelligence artificielle (IA) pour identifier les comptes d’utilisateurs mineurs. Cette initiative vise à améliorer la sécurité des adolescents sur les plateformes d’IA, tout en soulevant des questions concernant l’exactitude et le potentiel d’identification erronée.
Jusqu'à présent, le système de vérification de l'âge dans le monde numérique a été jugé peu efficace car il s'appuie généralement sur une entrée de date de naissance facile à manipuler. En 2025, un certain nombre de grandes entreprises technologiques, dont Google, ont commencé à appliquer une approche plus active pour vérifier l'âge des utilisateurs. Maintenant, OpenAI et Anthropic suivent la même voie avec une méthode basée sur l'analyse du comportement et des conversations.
OpenAI a annoncé que les spécifications du modèle ChatGPT seraient mises à jour avec quatre nouveaux principes spécifiques aux utilisateurs de moins de 18 ans. L’un des principes fondamentaux est de placer la sécurité des adolescents comme la priorité absolue, même si cela est contraire à d’autres objectifs.
En outre, OpenAI encourage également le soutien dans le monde réel en orientant les adolescents vers l’établissement de relations sociales hors ligne. Dans l’interaction, le modèle AI traitera également les adolescents avec un comportement chaleureux et respectueux, pas avec un ton autoritaire ou les traitera comme des adultes.
Cette politique a émergé après des rapports sur un certain nombre d'incidents graves, y compris des cas de suicide, qui sont censés être liés à l'interaction avec des modèles d'IA qui approuvent ou justifient trop souvent les déclarations des utilisateurs sans jugement critique.
En attendant, Anthropic a insisté que les utilisateurs de moins de 18 ans ne peuvent pas utiliser le modelé Claude. L’entreprise lance maintenant un nouveau système capable de détecter des signaux de conversation indiquant que l’utilisateur est mineur. Si cela est detécté, le compte en question peut être automatiquement déconnété.
Les défis et les inquiétudes
Bien que la technologie IA soit considérée comme sophistiquée, les observateurs rappellent que le système n’est pas parfait. L’IA est toujours vulnérable aux erreurs, y compris la hallucination — une condition dans laquelle le modèle génère des informations erronées ou complètement fictives. En outre, l’IA a également été utilisée à des fins dangereuses, telles que la création de malware.
Une autre préoccupation majeure est l’identification erronée des utilisateurs. Une expérience similaire a eu lieu lorsque Google a lancé un système de verification de l’état civil basé sur l’IA au debut de cette année. De nombreux utilisateurs adultes ont été détectés comme mineurs et ont été obligés de charger des documents d’identité pour prouver leur état civil, ce qui a été consideré comme un inconfort.
Compte tenu de ce contexte, même si les mesures d’OpenAI et d’Anthropic sont considérées comme positives pour la protection des adolescents, l’efficacité du système doit encore être testée. Si cette nouvelle approche sera plus précise et moins entravée que ses prédécesseurs, elle devra encore être prouvée avec le temps.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
