OpenAI soutient le projet de loi californien imposant le « marquage d’eau » au contenu synthétique lors de la période électorale

Illustration de gambr encadrée par l'intelligence artificielle Dall-E 2 (photo: x @_dschnurr)

JAKARTA - La société technologique OpenAI, connue sous le nom de développeur de ChatGPT, a exprimé son soutien au projet de loi californien exigeant que les entreprises technologiques étiquaient le contenu généré par l’intelligence artificielle (IA). Ce contenu peut être sous la forme de choses simples telles que des mèmes à des contenus plus graves tels que des insinuations factices pouvant être utilisées pour diffuser de fausses informations sur les candidats politiques.

Le projet de loi, connu sous le nom d’AB 3211, a auparavant moins d’attention que d’autres projet de loi California AI, SB 1047, qui exigeaient que les développeurs d’IA effectuent des tests de sécurité sur certains de leurs modèles. Le SB 1047 a fait face à de graves rejets de l’industrie de la technologie, y compris de l’OpenAI, qui est soutenu par Microsoft.

Selon une lettre envoyée par OpenAI aux membres du Conseil d’État de Californie, Buffy Wicks, qui est également le défenseur du projet de loi AB 3211, la transparence et les exigences liées à l’origine du contenu, telles que la fourniture de marquages d’eau sur le contenu généré par l’IA, sont très importants. Ceci est d’autant plus pertinent pendant l’année électorale, lorsque le contenu de l’IA peut potentiellement influencer l’opinion publique.

« Les nouvelles technologies et les nouvelles normes peuvent aider le public à comprendre l’origine du contenu qu’il trouve en ligne et éviter la confusion entre le contenu généré par l’homme et le contenu très réaliste d’IA », a écrit Jason Kwon, directeur stratégique d’OpenAI, dans la lettre.

Le projet de loi AB 3211 a été approuvé par l’Assemblée d’État de Californie par une voix unanime, qui est de 62-0. Plus tôt ce mois-ci, le projet de loi a également été exclu du comité budgétaire du sénat, de sorte qu’il est donc prêt à être soumis à un vote au Sénat de l’État. S’il est approuvé avant la fin de la session législative le 31 août, ce projet de loi sera soumis au gouverneur Gavin Newsom pour être signé ou en veto au plus tard le 30 septembre.

Les experts s’inquiètent du rôle du contenu produit par l’IA lors des élections, en particulier par le nombre de pays qui organisent des élections cette année. Le contenu de l’IA a été mis en avant lors de plusieurs élections, telles que en Indonésie, qui souligne l’importance des réglementations concernées pour maintenir l’intégrité de l’information.