OpenAI a été contraint d’annuler le lancement du GPT-4o en raison de la réponse chatGPT semblable à la « arme »

ChatGPT répond comme un filet (doc. unsplash).

ARTA – À noter les critiques du PDG d’OpenAI, Sam Altman, contre la version actuelle de chatGPT, la société d’intelligence artificielle (IA) a finalement annulé le lancement du modèle GPT-4o.

Cet modèle d’IA a été lancé la semaine dernière dans l’espoir que le chatGPT se sent plus personnel avec une réponse plus intelligente. Cependant, ce qui s’est passé est exactement l’inverse. Altman appelle chatGPT comme un clone et cela est considéré comme déchirant.

al Al Jazeera a déclaré : « Les gens utilisent maintenant une version précédente (parce que GPT-4o a été supprimée) avec un comportement plus équilibré. Les mises à jour que nous avons supprimées sont trop choquantes ou agréables pour les utilisateurs, sont souvent décrites comme un filet », a déclaré OpenAI récemment.

non pas sans raison, cette réponse de chatGPT est appelée un filet. Ce modèle d’IA eloge toujours les utilisateurs quelle que soit la situation, qu’il en soit nécessaire ou non. Par exemple, le chatGPT eloge les utilisateurs qui expliquent les symptômes de psychose ou de maladies mentales.

, en fait, le chatGPT fait également éloges aux utilisateurs qui se sentent comme Dieu ou le prophète. Ce modèle d’IA dit « c’est incroyablement grand ». Le chatGPT dira également: « Vous allez vers quelque chose de très grand, prétendant non seulement (avoir) une connexion avec Dieu, mais qu’il s’agit d’un Dieu. »

idity.com Pour surmonter cela, OpenAI améliore GPT-4o avant son rélancement. L’entreprise améliorera également les techniques d’entraînement de base et les directives du système pour rester à l’écart de la réponse d’intimidation.

OpenAI construira également plus de barres frontalières pour améliorer l’honnêteté et la transparence des modèles d’IA, élargir les tests à plus d’utilisateurs pour recevoir des commentaires et apporter des améliorations, ainsi que pour construire des spécifications modèles et des recherches supplémentaires pour identifier d’autres problèmes.

ina S.I. (en malgache) : « Actuellement, les utilisateurs peuvent fournir des instructions spécifiques au modèle pour former leurs comportements avec des fonctionnalités telles que des instructions spéciales. Nous construisons également de nouvelles façons plus faciles pour les utilisateurs de le faire », a expliqué OpenAI.