JAKARTA - OpenAI a publié de nouvelles données montrant l’étendue des défis de santé mentale à l’ère de l’intelligence artificielle. Dans son dernier rapport, l’entreprise a déclaré qu’environ 0,15% des utilisateurs actifs de chatGPT chaque semaine étaient impliqués dans une conversation contenant des indications explicites d’un plan ou d’intention de suicide. Avec un total de plus de 800 millions d’utilisateurs actifs hebdomadaires, ce chiffre signifie que plus d’un million de personnes par semaine parlant avec le chatGPT sur le désir de mettre fin à la vie.
celi, OpenAI a trouvé un pourcentage similaire des utilisateurs qui montraient un niveau élevé d’attaché émotionnel à la chatGPT. Des centaines de milliers d’autres ont montré des signes de psychose ou de manie lors de conversations hebdomadaires avec le modèle d’IA.
OpenAI a souligné que ce type d’interaction est classé comme « très rare », il est donc difficile de mesurer avec précision. Cependant, les données soulignent toujours l’ampleur de la vulnérabilité émotionnelle parmi les utilisateurs.
est dans le cadre d’une annonce générale des efforts d’OpenIA pour améliorer la réponse modèles aux problèmes de santé mentale. La société affirme avoir collaboré avec plus de 170 experts de santé mentale, qui considèrent que la dernière version du chatGPT est maintenant « plus précisée et plus cohérente que la version précédente ».
al, qui s'appuyne sur le phénomène, au milieu de l'accent du public sur l'impact négatif des chat-bots sur les utilisateurs qui se battent psychologiquement. Plusieurs études suggèrent qu’IA peut renforcer les croyances dangereuses grâce à des modèles de réponse trop obéissants des utilisateurs, créant un effet « rond de l’illusion ».
ont commencé à émerger. OpenAI est actuellement poursuivi par les parents d’un adolescent de 16 ans qui s’est suicidé après avoir révélé ses intentions à ChatGPT. Les procureurs général des États de Californie et du Associateware ont également averti OpenAI de renforcer la protection des jeunes utilisateurs, même pour entraver le potentiel de restructurer de l’entreprise s’il ne peut pas garantir la sécurité des utilisateurs.
OpenAI, Sam Altman, a précédemment déclaré sur la plate-forme X que l’entreprise avait « réussi à réduire de graves problèmes de santé mentale dans chatGPT », sans même préciser comment. Ces dernières données semblent être une preuve d’un soutien de ces affirmations, bien qu’il soulève de nouvelles questions sur l’étendue de cette question.
OpenAI a déclaré que le dernier modèle GPT-5 fournit maintenant une réponse « idéale » aux problèmes de santé mentale de 65% plus fréquentes que la version précédente, avec un taux de conformité atteignant 91% dans les tests de conversation liée au suicide, contre 77% sur le modèle précédent GPT-5.
ronyme : La société a également ajouté une nouvelle évaluation pour mesurer la dépendance émotionnelle et les crises de santé mentale non suicides, qui sont maintenant incluses dans ses normes de dépistage de sécurité de base.
ina Dprt. En outre, OpenAI développe un système de prévision de l’âge pour détecter les enfants utilisant le chatGPT et mettre en œuvre une protection plus stricte.
, les défis restent très ouverts. Bien que le GPT-5 soit considéré comme plus sûr, OpenAI reconnaît qu’il y a encore une petite partie de réponses considérées comme « indésirables ». Ironiquement, les vieux modèles tels que le GPT-4o moins sûr restent disponibles pour des millions de clients payants.
, ceci souligne une nouvelle réalité : le chat boot d'IA n'est plus un outil de conversation, il reflète l'état psychologique des sociétés numériques - une responsabilité éthique qui est maintenant entre les mains des créateurs.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
