Une nouvelle technologie de profonde fausse sonore apparaît, OpenAI n’a pas encore été lancé pour éviter les risques
JAKARTA - OpenAI, une société technologique de premier plan, a développé un logiciel de clone sonore révolutionnaire, mais choisit de ne pas le rendre au public en raison du risque potentiel.
La technologie, connue sous le nom de moteur de vote, est capable de reproduire la voix de n’importe qui en seulement 15 secondes des enregistrements de leurs conversations. Cependant, la société considère que la technologie est « trop risquée » pour une utilisation généralisée, en particulier pendant les années électorales dans de nombreux pays.
« Nous nous rendons compte que la production de voix qui ressemble aux voix des gens présente de graves risques, surtout pendant l’année électorale », a déclaré OpenAI, basé à San Francisco.
Ils soulignent que bien qu’ils prévoient de fournir un aperçu aux utilisateurs préliminaires, la technologie ne sera pas largement déployée à ce stade en raison des risques possibles d’abus.
Une enquête est en cours par les autorités du New Hampshire concernant des milliers d’appels automatiques envoyés aux électeurs avant l’élection présidentielle utilisant une voix générée par l’intelligence artificielle imitant le président Joe Biden.
Bien que plusieurs start-ups aient vendu de la technologie de clone vocal, OpenAI a souligné que les utilisateurs initiaux de Voice Engine avaient accepté de ne pas imiter quelqu’un sans son consentement et de révéler que le son généré est fabriqué par l’intelligence artificielle.
OpenAI, connu pour son chat boot et son générateur d’image DALL-E, a des plans similaires pour le moteur de vote comme ils l’ont fait avec des annonces mais n’ont pas publié largement les générateurs de vidéos Sora précédents.
Cependant, l’application de marque déposée le 19 mars montre qu’OpenAI vise probablement à s’engager dans le secteur de la reconnaissance vocale et des assistants numériques. Ainsi, une telle amélioration de la technologie peut aider OpenAI à rivaliser avec d’autres produits de son tels qu’Alexa d’Amazon.