L’Union Européenne parvient à un accord initial sur les règles relatives à l’intelligence artificielle, y compris la surveillance biométrique

Le commissaire européen, Thierry Breton, avec les rédacteurs du projet de loi sur l’intelligence artificielle de l’UE. (photo: x @BarryBreton)

JAKARTA - L’Union européenne a conclu un accord provisoire vendredi 8 décembre sur les règles de l’UE qui incluent l’utilisation de l’intelligence artificielle, y compris l’utilisation gouvernementale de la surveillance biométrique et les réglementations de systèmes d’intelligence artificielle tels que chatGPT.

Avec cet accord politique, l’Union européenne se dirige vers être la première puissance mondiale majeure à appliquer des lois sur l’intelligence artificielle. L’accord de vendredi entre les États de l’Union européenne et les membres du Parlement européen a eu lieu après près de 15 heures de négociations qui ont suivi un débat de près de 24 heures la veille.

Les deux parties discuteront de détails dans les prochains jours, ce qui pourrait changer la forme d’une législation définitive.

« Eropah s’est placé comme un pionnier, comprenant l’importance de son rôle de déterminateur des normes mondiales. C’est un jour historique, je pense », a déclaré le commissaire européen, Thierry Breton, lors d’une conférence de presse.

L’accord exige que des modèles de base tels que le chatGPT et les systèmes d’intelligence artificielle générales (GPAI) respectent les obligations de transparence avant d’être introduits sur le marché. Cela inclut la préparation de documents techniques, le respect de la loi de l’UE sur le droit d’auteur et la diffusion de résumés détaillés du contenu utilisé pour la formation.

Les modèles de base ayant un impact élevé avec des risques systématiques doivent évaluer les modèles, évaluer et traiter les risques systématiques, effectuer des essais d’advantagement, signaler à la Commission européenne des incidents graves, assurer la cybersécurité et signaler leur efficacité énergétique.

Les GPAI présentant des risques systématiques peuvent s’appuyer sur le code de déontologie pour se conformer à ces nouvelles réglementations.

Les gouvernements ne peuvent utiliser la surveillance biométrique en temps réel que dans les espaces publics dans le cas de victimes de certains crimes, de prévenir des menaces réelles, présentes ou prévisibles, telles que les attaques terroristes et la recherche de personnes soupçonnées d’avoir commis des crimes les plus graves.

L'accord interdit la manipulation du comportement cognitif, la séduction non ciblée des images faciaires sur Internet ou des images de vidéosurveillance, le scénario social et les systèmes de catégorisation biétriques visant à conclure les croyances politiques, religieuses, philosophiques, l'orientation sexuelle et raciale.

Les consommateurs ont le droit de se plaindre et de recevoir une explication significative, tandis que les amendes pour les infractions vont de 7,5 millions d’euros (126,1 milliards IDR) ou 1,5% du chiffre d’affaires allant jusqu’à 35 millions d’euros (588,3 milliards IDR) ou 7% du chiffre d’affaires mondial.

Le groupe d’affaires DigitalEurope a critiqué la règle comme un fardeau supplémentaire sur les entreprises, au-dessus d’autres lois récentes.

« Nous avons uneaccord, mais pour quel coût? Nous soutiendons pleinement une approche basée sur les risques sur l’utilisation de l’IA, pas de la technologie elle-même, mais les derniers efforts pour réglementer le modèle de base ont renversé cela », a déclaré la directrice générale Cecilia Bone reng-Dahl, cité par VOI à Reuters.

Le groupe européen des droits sur la vie privée des droits numériques est également très critique. Il est difficile d’enthousiasmer une loi qui, pour la première fois dans l’UE, a pris des mesures pour légaliser l’identification directe du public à travers tout le bloc », a déclaré le conseiller politique principal, hein Jakubowska.

« Bien que le Parlement lutte dur pour limiter les dommages, le paquet global sur la surveillance biométrique et la profilisation est le plus chaud », a-t-il déclaré.

Le règlement devrait entrer en vigueur dès l’année prochaine après sa ratification officielle par les deux parties et devrait entrer en vigueur deux ans après.

Les gouvernements du monde entier cherchent à équilibrer les avantages de la technologie, qui peut mener une conversation humaine, répondre aux questions et écrire des codes informatiques, avec la nécessité de fixer des limites.

Les règles européennes ambitieuses d’IA sont intervenues lorsque des entreprises comme OpenAI, dont Microsoft est investisseur, continuent de découvrir de nouvelles utilisations pour leur technologie, suscitant des éloges et des préoccupations. Le propriétaire de Google, Alphabet, a lancé jeudi 7 décembre un nouveau modèle d’IA, Gemini, pour rivaliser avec OpenAI.

La loi de l’UE pourrait être une photo pour d’autres gouvernements et une alternative à l’approche américaine légère et à la réglementation provisoire de la Chine.