OpenAI est prêt à renforcer le cadre d'évaluation et de mitigation des risques de l'IA qui devient de plus en plus sophistiqué
JAKARTA - OpenAI est en train de recruter un poste de responsable de la préparation, afin de diriger le développement et l’application des modèles d’intelligence artificielle (IA) les plus avancés de manière sûre et responsable.
Le poste, qui relèvera du groupe Safety Systems, sera basé à San Francisco et sera directement responsable de la formulation et de l'exécution du cadre de préparation du dernier modèle d'IA d'OpenAI.
« Nous construisons une évaluation, une sécurité et un cadre de sécurité qui aident nos modèles à se comporter comme prévu dans un environnement réel », a écrit l’entreprise dans son annonce officielle.
Ce cadre constitue la base de OpenAI pour suivre, évaluer et atténuer les nouveaux risques qui émergent avec l'augmentation des capacités des modèles de l'avant-garde de l'IA.
OpenAI a indiqué qu'elle avait investi massivement dans la Preparedness au cours des générations de modèles d'IA, y compris le développement de l'évaluation des capacités, la modélisation des menaces et la mitigation interfonctionnelle.
Alors que la complexité des systèmes et des protections appliquées augmente, ce rôle est jugé de plus en plus crucial pour étendre, renforcer et guider les normes de sécurité des modèles d'IA des entreprises.
Par la suite, le responsable de la préparation dirigera le développement de l’évaluation des capacités de la frontière afin qu’elle reste précise, solide et scalable dans les cycles de développement de produits rapides.
En outre, cette position supervise également la conception de mesures d'atténuation dans divers domaines de risque clés, tels que la cybersécurité et la biosécurité, et assure que les résultats de l'évaluation influent directement sur les décisions de lancement de produits et les politiques internes.
Au milieu de l'assaut de modèles d'IA sophistiqués de divers autres géants de la technologie, OpenAI a affirmé son engagement en tant qu'entreprise de recherche et d'application d'IA orientée vers la sécurité et les avantages généraux pour l'humanité.