JAKARTA — Le gouvernement fédéral canadien a exprimé sa déception à OpenAI après une réunion à Ottawa concernant l’échec de l’entreprise à avertir les forces de l’ordre des auteurs d’un massacre à Tumbler Ridge, en Colombie-Britannique.
Le ministre canadien de l’intelligence artificielle, Evan Solomon, a dit que les fonctionnaires fédéraux avaient exprimé leur « déception » directement aux représentants d’OpenAI. La réunion a eu lieu à sa demande à la suite d’un rapport qu’il a qualifié de « perturbatrice » sur l’absence d’escalade rapide des signes de violence potentielle.
L’affaire a été révélée après que le Wall Street Journal a rapporté que le compte de l’auteur, Jesse Van Rootselaar, avait été bloqué de la plate-forme ChatGPT d’OpenAI il y a au moins sept mois en raison de publications considérées comme problématiques, y compris des scénarios d’actes de violence armée. Cependant, OpenAI n’a pas informé la police avant le tir du 10 février.
Dans sa déclaration, Solomon a dit que l’entreprise n’avait pas présenté de « nouvelles mesures de sécurité substantielles » lors de la réunion, mais a promis de revenir avec des propositions plus concrètes. Il a également insisté sur le fait que OpenAI coopérait avec la Gendarmerie royale du Canada (GRC) dans le cadre de l’enquête en cours.
« Nous ne discutons pas des détails du cas car il s’agit d’une enquête criminelle », a dit Solomon aux journalistes avant une réunion du cabinet à Parliament Hill. Il a ajouté que les signes d’alerte crédibles devaient être signalés rapidement, et non seulement examinés en interne lorsque la sécurité publique était en jeu.
OpenAI avait auparavant déclaré que le compte de Van Rootselaar avait été bloqué en juin, mais que l’activité n’avait pas atteint le seuil pour impliquer les forces de l’ordre car elle n’avait pas montré de menace crédible ou immédiate.
Cette question a déclenché un débat plus large sur la responsabilité des entreprises d’IA. Emily Laidlaw, experte en droit de la cybersécurité et titulaire de la chaire de recherche du Canada à l’Université de Calgary, a déclaré que le Canada pourrait envisager une loi obligeant les entreprises d’IA à signaler les menaces en ligne à la police. Cependant, elle a rappelé que la conception de telles règles n’était pas chose facile.
« Vous ne pouvez pas exiger que chaque soupçon soit signalé à la police. Ce n’est pas réaliste », a déclaré Laidlaw. Selon lui, chaque entreprise d’IA établit actuellement ses propres politiques sur le moment de contacter les forces de l’ordre. Le Canada a envisagé une règle de signalement similaire en 2021, mais n’a jamais été mise en œuvre après avoir reçu une opposition significative.
Le Premier ministre de la Colombie-Britannique, David Eby, a décidé de demander au gouvernement fédéral d’établir un seuil de réglementation clair et transparent. Il a déclaré que cette réglementation devait protéger les entreprises contre les risques de privacité tout en assurant la securité des citoyens.
« Je veux qu’ils voient directement les familles des victimes et expliquent pourquoi ils ont pris cette décision », a dit Eby, ajoutant qu’il avait demandé une rencontre personnelle avec des représentants d’OpenAI.
Le ministre fédéral de la Justice du Canada, Sean Fraser, a déclaré que les forces de l’ordre recueillaient des informations et qu’il pourrait y avoir un examen systémique de ce qui s’est passé dans le cas de Tumbler Ridge. « Nous devons comprendre quels sont les conversations qui ne sont actuellement pas visibles par les forces de l’ordre, mais qui pourraient être très utiles pour prévenir des tragédies à l’avenir », a-t-il déclaré.
Le gouvernement libéral a confirmé la semaine dernìre qu’il travaillait sur de nouvelles lois pour faire face aux dangers en ligne. En 2024, le gouvernement avait proposé des règles obligeant les entreprises de médias sociaux à expliquer la fácon de réduire les risques pour les utilisateurs et à assumer la responsabilité de prot€ger les enfants. Mais le projet a été rétracté avant les élections de 2025.
Le ministre du Culte canadien, Marc Miller, a déclaré que la nécessité d’une législation restait, même si la forme exacte n’avait pas encore été déterminée. « Les plateformes doivent agir de manière responsable, mais la forme de la réglementation est encore à l’étude », a-t-il déclaré.
Cette affaire montre le dilemme de l'ère de l'IA: quand une conversation numérique passe d'une simple expression à un signal d'une menace réelle? Si le seuil est trop bas, la police sera inondée de rapports qui ne sont pas nécessairement pertinents. Si c'est trop élevé, le risque de tragédie peut être manqué.
Au milieu de la pression publique et du deuil des familles des victimes, Ottawa est maintenant confrontée à une question fondamentale : le chatbot est-il seulement un outil neutre, ou est-il devenu un acteur social qui assume de nouvelles responsabilités juridiques ? À une époque où les algorithmes lisent les intentions avant que les humains ne s’en rendent compte, la ligne entre la vie privée, la liberté d’expression et la sécurité publique devient de plus en plus mince - et de plus en plus urgente à déterminer.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
