OpenAI forme un nouveau comité de sécurité pour former les derniers modèles d’IA

OpenAI a mis en place un nouveau Comité pour la sécurité et la sécurité. (photo: x @openai)

JAKARTA - OpenAI a formé un comité de sécurité et de sécurité dirigé par des membres du conseil d’administration, y compris le PDG Sam Altman, avec le début de la formation au dernier modèle d’intelligence artificielle (IA). Cela a été annoncé par la start-up d’IA le mardi 28 mai.

Le directeur de Bret Taylor, Adam D’Angelo et Nicole Seligman, dirigera également ce comité, selon le blog de l’entreprise OpenAI. Le chat boot OpenAI, alimenté par Microsoft, qui a des capacités génératives d’IA telles que l’interaction en conversations humaines et la création d’images basées sur des commandes texte, a soulevé des préoccupations liées à la sécurité à mesure que ce modèle d’IA s’est renforcé.

Les anciens scientifiques en chef Ilya Sutskever et Jan Leike, qui étaient auparavant à la tête de l’équipe de superalignement OpenAI qui s’assurait que l’IA restait conforme à l’objectif souhaité, ont quitté l’entreprise plus tôt ce mois-ci. OpenAI a dissous l’équipe de superalignment début mai, moins d’un an après la formation de l’équipe, où plusieurs membres de l’équipe ont été transférés à d’autres groupes.

Le nouveau comité sera chargé de fournir des recommandations au conseil sur les décisions de sécurité et de sécurité pour les projets et les opérations OpenAI. La première tâche du comité est d’évaluer et de développer davantage les pratiques de sécurité d’OpenAI au cours des 90 prochains jours, après quoi ils soumettront les recommandations au conseil.

Après un examen du conseil d’administration, OpenAI partagera publiquement des mises à jour concernant les recommandations adoptées, a déclaré l’entreprise. Les autres membres du comité comprennent le scientifique nouvellement nommé, James Pachocki, et Matt Knight, chef de la sécurité. La société consultera également d’autres experts, dont Rob Joyce, ancien directeur de la cybersécurité de l’Agence américaine de sécurité nationale et John Carlin, ancien fonctionnaire du département de la justice.

OpenAI n’a pas fourni de détails supplémentaires sur le nouveau modèle « frontalier » en cours d’entraînement, sauf que le modèle amène son système au « niveau de capacité suivant sur le chemin vers l’AGA ». Début mai, OpenAI a annoncé un nouveau modèle d’IA capable de mener une conversation voix réaliste et une interaction texte et image.