JAKARTA - L’Union européenne a commencé à prendre les premières mesures juridiques pour interdire les pratiques d’intelligence artificielle qui produisent des images de violences sexuelles sur les enfants. Les gouvernements des États membres de l’UE ont proposé vendredi 13 mars que ces pratiques soient officiellement incluses comme activités interdites dans la réglementation principale de l’IA du bloc.
Cette proposition ajouterait une interdiction des technologies d’IA capables de produire du matériel de pornographie juvénile à l’encadrement de la loi sur l’IA de l’UE, la réglementation sur l’IA la plus complète au monde adoptée par l’Union européenne il y a deux ans.
Cette mesure survient alors que les inquiétudes mondiales concernant le contenu sexuel explicite généré par les systèmes d'IA, y compris les deepfakes intimes qui peuvent être créés avec la technologie générative, augmentent. Les régulateurs dans de nombreux pays estiment que cette technologie pourrait élargir l'exploitation numérique des enfants et compliquer l'application de la loi.
La pression sur les entreprises technologiques a également augmenté après l’émergence de rapports sur le contenu sexuel généré par le chatbot AI de la société appartenant à Elon Musk. Le chatbot, Grok, a été développé par la société d’IA de Musk, xAI, et est intégré à la plate-forme de médias sociaux X.
Plusieurs régulateurs technologiques en Europe enquêtent actuellement sur les potentiels abus de cette technologie. Les autorités de surveillance en Angleterre, en Irlande et en Espagne, ainsi que les régulateurs de l’Union européenne, étudient actuellement un cas de deepfake sexuel présumé produit par Grok.
La nouvelle proposition de restriction doit encore obtenir l’approbation du Parlement européen avant d’être officiellement adoptée. Les membres du Parlement doivent voter sur une proposition similaire dans un proche avenir.
Si les deux parties sont d'accord sur une approche similaire, le processus suivant est la négociation avec la Commission européenne pour intégrer les modifications dans le cadre juridique existant en matière d'IA.
Le débat devrait être intense. La Commission européenne a précédemment proposé d’assouplir certaines parties de la réglementation de l’IA afin d’encourager l’innovation technologique. Cette mesure a été soutenue par un certain nombre de grandes entreprises technologiques et d’entreprises, mais a été critiquée par des groupes de la société civile et des organisations de protection de la vie privée qui considèrent que la politique est trop accommodante pour les intérêts des grandes entreprises technologiques.
Les analystes estiment que le processus de légifération et de négociation concernant les changements à ces règles pourrait prendre environ un an avant que les nouvelles règles soient effectivement mises en œuvre.
Cette tendance montre le paradoxe de la technologie générative moderne. Les mêmes machines qui sont capables d'écrire des poèmes, de créer de la musique ou d'aider à la recherche scientifique peuvent également être utilisées pour créer des manipulations visuelles très dévastatrices. En langage informatique, les algorithmes n'ont pas de moralité - ils maximisent simplement les modèles des données. La moralité vient toujours de l'homme qui écrit les règles du jeu.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
