カナダ政府は、B.C.の銃撃事件後、OpenAIに「失望」し、チャットボット規制が頂点に

カナダの人工知能大臣、エヴァン・ソロモン(写真:x @CBCbrief)

ジャカルタ - カナダ連邦政府は、ブリティッシュコロンビア州タンベルリッジでの大規模な銃撃事件の加害者について当局者に警告するOpenAIの失敗に関連するオタワでの会議の後に、OpenAIに失望を表明した。

カナダのAI大臣エヴァン・ソロモンは、連邦当局者がオープンAIの代表者に直接「失望」を表明したと述べた。この会議は、潜在的な暴力を示す兆候に対する迅速なエスカレーションがないという「不安」を伴う報告書に続いて、彼の要求により開催されました。

ウォールストリートジャーナルが、加害者のアカウント、ジェシー・ヴァン・ルートセラーが、少なくとも7か月前に、銃器による暴力シナリオを含む問題のある投稿のために、OpenAIのチャットGPTプラットフォームからブロックされたと報じた後、この事件は浮上しました。しかし、OpenAIは2月10日の銃撃事件まで警察に知らせていませんでした。

ソロモン氏は声明で、同社は会議で「実質的な新しい安全対策」を提示しなかったが、より具体的な提案を提出すると約束したと述べた。また、OpenAIはカナダ騎馬警察(RCMP)と協力して調査を続けていると強調した。

「これは刑事捜査であるため、事件の詳細については議論しません」とソロモンは国会議事堂での閣僚会議の前に記者団に語った。彼は、信頼できる警告兆候は、公共の安全が危険にさらされているときに内部的に検討されるのではなく、迅速に報告されるべきであると付け加えた。

OpenAIは以前、Van Rootselaarのアカウントは6月にブロックされたと述べたが、活動は信頼できる計画や差し迫った脅威を示さなかったため、法執行機関を巻き込むためのしきい値を満たしていないと判断された。

この問題は、AI企業の責任に関するより広範な議論を引き起こしました。カルガリー大学のサイバーセキュリティ法の専門家であり、カナダ研究委員でもあるエミリー・レイドロー氏は、カナダはAI企業がオンラインの脅威を警察に報告することを義務付ける法律を検討できると述べた。しかし、そのような規則を設計することは容易ではないことを思い出させました。

「警察に報告する義務を課すことはできません。それは現実的ではありません」とレイローは言いました。彼は、現在のすべてのAI企業は、いつ法執行機関に連絡すべきかについて独自のポリシーを定めていると述べた。カナダは2021年に同様の報告規則を検討しましたが、重大な反対を受けた後、実現されませんでした。

ブリティッシュコロンビア州のデビッド・エビー首相は、連邦政府に明確で透明な報告しきい値を設定するよう促した。彼は、この規則は企業をプライバシーリスクから保護すると同時に、住民の安全を確保しなければならないと述べた。

「被害者の家族に直接会い、なぜ彼らがその決定をしたのかを説明したい」とエビーは述べ、OpenAIの代表者と個人的に会談するよう依頼したと付け加えた。

カナダ連邦司法大臣のショーン・フレイザーは、法執行機関が情報を収集しており、タンベル・リッジ事件で何が起こったのかについて体系的な見直しが行われる可能性があると述べた。 「私たちは、法執行機関が現在見ることができない会話を理解する必要がありますが、将来の悲劇を防ぐのに非常に役立ちます」と彼は言いました。

自由党政府は先月、オンライン上の危険に対処するための新しい法律を起草中であることを確認した。2024年、政府はソーシャルメディア企業がユーザーのリスクを軽減する方法を説明し、子供を保護する義務を課すことを義務付ける規則を提出しました。しかし、2025年の選挙が行われる前に、計画は破棄されました。

カナダの文化大臣、マーク・ミラーは、最終的な形がまだ決定されていないにもかかわらず、立法の必要性は依然として存在すると述べた。「プラットフォームは責任を持って行動する必要がありますが、規制がどのようなものかはまだ議論中です」と彼は言いました。

この事件は、AI時代のジレンマを示しています。デジタル会話が単なる表現から実際の脅威のシグナルに変わるのはいつですか?しきい値が低すぎると、警察は必ずしも関連性のない報告に圧倒されます。しきい値が高すぎると、悲劇的なリスクが逃れる可能性があります。

公衆の圧力と犠牲者の家族の悲しみの中、オタワは今、チャットボットが中立的なツールであるか、それとも新しい法的責任を負う社会的アクターになったのかという根本的な疑問に直面しています。アルゴリズムが人間の目から隠れて意図を読み取る時代、プライバシー、表現の自由、公共の安全の境界はますます薄くなり、決定する必要性が高まっています。