JAKARTA - OpenAI a lancé un système automatisé de verification de l’état général pour les utilisateurs de son chatbot, ChatGPT. Ce système existe pour limiter le contenu dangereux pour les adolescents, mais la technologie ne fonctionne pas parfaitement.
En s'appuyant sur PC Mag, OpenAI a reconnu que l'exactitude de cette technologie n'est pas parfaite. Cependant, pour stimuler son taux d'exactitude, le système tente d'analyser divers signaux d'utilisation tels que la durée de vie du compte, le temps pendant lequel l'utilisateur est actif avec ChatGPT et les habitudes d'interaction quotidiennes.
Si l’écûme est detéctée comme un adolescent, le chatbot filtre automatiquement le contenu sensible. Différents contenus qui seront évités des écûmes des adolescents sont la violence, les normes de beauté malsaines, jusqu’aux actes dangereux tels que les comportements de sécheriés.
Malheureusement, cette technologie de prédiction d’âge est toujours fausse dans la classification de l’état de l’utilisateur. Si un adulte est detécté comme adolescent, il peut faire un rapport à OpenAI. Cependant, ce rapport doit être suivi par l’envoi d’une selfie par le biais de Persona, un système d’identité tiers.
L’exactitude de cette fonction est certainement une grande préoccupation, en particulier parmi les experts en cybersécurité et les parents. Si un compte qui devrait appartenir à des enfants est classé dans la catégorie adulte, cela pourrait poser des problèmes à l’avenir.
Mark Cuban, un personnage et un entrepreneur américain, est aussi devenu l’une des parties critiquant cette technologie. Selon Cuban, la technologie que OpenAI a mise en place ne peut pas complètement surmonter le problème de l’exposition des enfants au contenu érotique.
En fait, les adolescents ont toujours un moyen de contourner le système de sécurité, surtout un système reconnu comme insuffisamment mature par l’entreprise. Jusqu’à ce que cette nouvelle soit faite, OpenAI n’a pas révélé combien de temps il faudra pour rendre le système de prédiction d’âge de ChatGPT plus précis.
Le problème de la prédiction de l’âge qui n’est pas exacte n’est pas seulement vécu par OpenAI. Il y a quelque temps, Roblox a lancé une capacité similaire pour limiter l’interaction des utilisateurs de groupes d’age différents. Par exemple, un enfant qui est considéré comme adulte avec 18 ans et plus ne peut pas communiquer avec un enfant de moins de 13 ans.
Pour continuer à interagir avec les utilisateurs de l’âge approprié, tous les utilisateurs doivent effectuer une verification de l’identité et du visage. Cependant, il y a encore des cas dans le passé de Roblox qui ont mal classé certains comptes, tels que les comptes qui devraient être adultes sont considérés comme des enfants ou des adolescents.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
