JAKARTA - L’exécutive du matériel chez OpenAI, Caitlin Kalinowski, a annoncé sa démission après que l’entreprise a signé un accord controversé avec le département de la Défense des États-Unis ou le Pentagone.
Dans une publication sur les médias sociaux, Kalinowski a déclaré que la décision a été prise en raison des inquiétudes concernant l’utilisation de la technologie d’intelligence artificielle dans le domaine de la sécurité nationale sans surveillance adéquate.
« Ce n’est pas une décision facile », a déclaré Kalinowski. « L’IA joue un rôle important dans la sécurité nationale. Mais la surveillance des citoyens américains sans contrôle judiciaire et l’utilisation de systèmes autonomes meurtriers sans autorisation humaine sont des limites qui devraient être considérées plus mûrement. »
Kalinowski avait auparavant dirigé l’équipe de développement de lunettes de réalité augmentée chez Meta avant de rejoindre OpenAI en novembre 2024 pour diriger l’équipe de matériel de l’entreprise.
Dans sa déclaration, il a insisté sur le fait que sa décision de démissionner n’était pas destinée à des individus au sein de l’entreprise.
« Cette décision est une question de principe, pas de personnes », a-t-il dit. « J’ai un grand respect pour le PDG Sam Altman et l’équipe OpenAI. »
Dans une publication subséquente sur la plate-forme X, Kalinowski a expliqué que son objection était principalement liée au processus d’annonce de la coopération, qui était jugé trop précipité.
« Mon problème est que l’annonce a été faite trop vite sans cadre de sécurité clair. C’est d’abord un problème de gouvernance. Des choses comme ça sont trop importantes pour être annoncées à la hâte », a-t-il écrit.
Un porte-parole d’OpenAI a confirmé à TechCrunch la rétractation de Kalinowski. Dans sa déclaration, la société a déclaré que la collaboration avec le Pentagone avait pour objectif d’assurer une utilisation responsable de l’IA dans le contexte de la securité nationale.
« Nous croyons que l’accord avec le Pentagone crée un chemin viable pour l’utilisation responsable de l’IA dans la sécurité nationale, tout en continuant à affirmer nos limites : pas de surveillance domestique et pas d’armes autonomes », a déclaré la société.
L’accord entre OpenAI et le Pentagone a été annoncé il y a plus d’une semaine. Cette annonce a été faite après que les discussions entre le Pentagone et la société d’IA Anthropic n’avaient pas abouti à un accord.
Anthropic a auparavant tenté de négocier un certain nombre de protections pour que sa technologie ne soit pas utilisée pour la surveillance de masse domestique ou pour des armes autonomes. Après l'échec des négociations, le Pentagone a même désigné Anthropic comme un risque dans la chaîne d'approvisionnement.
Anthropic a déclaré qu’il ferait appel de cette décision devant les tribunaux. En même temps, de grandes entreprises technologiques telles que Microsoft, Google et Amazon ont déclaré qu’elles continueront de fournir le modelé d’IA Claude d’Anthropic aux clients non défensifs.
Peu de temps après que les discussions avec Anthropic aient échoué, OpenAI a annoncé son propre accord avec le Pentagone qui permet à la technologie de l'entreprise d'être utilisée dans un environnement gouvernemental secret.
L’entreprise explique que son approche utilise un système de sécurité à plusieurs couches, non seulement par le biais de contrats, mais également par des protections techniques pour s’assurer que les limites de l’utilisation de l’IA sont respectées.
Mais la controverse semble avoir eu un impact sur la réputation de l’entreprise auprès des utilisateurs. Les derniers chiffres montrent que le nombre de suppressions de l’application ChatGPT a grimpé de 295 pourcent, tandis que l’application Claude a atteint la première place dans le classement des applications gratuites sur l’Apple App Store aux États-Unis.
Dimanche après-midi, heure locale, Claude occupait la première place et ChatGPT la deuxième dans la liste des applications gratuites les plus populaires sur l'App Store américain.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
