캐나다 정부는 B.C. 총격 사건 이후 OpenAI에 대해 '실망'했으며 채팅봇 규제가 첨두에 있다

칸쿤 - 캐나다 연방 정부는 브리티시 컬럼비아 툼블러 릿지에서 대규모 총격 사건을 저지른 사람들에 대해 법 집행 기관에 경고하지 못한 회사의 실패에 관한 오타와 회의 이후 OpenAI에 실망했다.

캐나다의 인공 지능 장관 인 에반 솔로몬 (Evan Solomon)은 연방 관리들이 오픈 AI 대표에게 직접 "실망"을 표명했다고 말했습니다. 그는 폭력 가능성의 징후에 대한 신속한 확산이 없다는 "혼란스러운"보고서에 따라 그의 요청에 따라 회의가 열렸습니다.

이 사건은 월스트리트 저널이 범죄자 인 제시 반 루트셀라르 (Jesse Van Rootselaar)의 계정이 적어도 7 개월 전에 무기를 사용한 폭력 시나리오를 포함하여 문제가 있다고 생각되는 업로드로 인해 OpenAI의 ChatGPT 플랫폼에서 차단되었다는 보도 이후에 밝혀졌습니다. 그러나 OpenAI는 2 월 10 일 총격전 이후까지 경찰에 알리지 않았습니다.

솔로몬은 성명에서 회사는 회의에서 "실질적인 새로운 안전 조치"를 제시하지 않았지만 더 구체적인 제안으로 돌아갈 것을 약속했다고 말했습니다. 그는 또한 OpenAI가 여전히 진행 중인 조사에서 캐나다 왕립 경찰 (RCMP)과 협력하고 있다고 강조했습니다.

"우리는 이것이 범죄 조사이기 때문에 사건의 세부 사항을 논의하지 않습니다."라고 솔로몬은 의회 힐에서 내각 회의를 앞두고 기자들에게 말했습니다. 그는 신뢰할만한 경고 신호는 공공 안전이 위험에 처했을 때 내부적으로 검토하는 것보다 즉시보고되어야한다고 덧붙였다.

OpenAI는 이전에 6월에 밴 루트셀라의 계정이 차단되었지만, 신뢰할 수 있는 계획이나 즉각적인 위협을 보여주지 않았기 때문에 법 집행 기관을 참여시키는 경계를 충족하지 못했다고 말했습니다.

이 문제는 AI 기업의 책임에 대한 더 광범위한 논쟁을 불러 일으켰습니다. 캘거리 대학의 사이버 보안 법률 전문가이자 캐나다 연구 의자 인 에밀리 레이드 로 (Emily Laidlaw)는 캐나다는 AI 기업이 온라인 위협을 경찰에 신고하도록 요구하는 법안을 고려할 수 있다고 말했습니다. 그러나 그는 그러한 규칙을 설계하는 것이 쉽지 않다는 것을 상기시켰습니다.

"모든 의심을 경찰에 신고하도록 강제 할 수는 없습니다. 그것은 현실적이지 않습니다."라고 Laidlaw는 말했습니다. 그는 모든 AI 회사는 현재 언제 법 집행 기관에 연락해야 하는지에 대한 자체 정책을 설정하고 있다고 말했습니다. 캐나다는 2021년에 유사한 보고 규칙을 고려했지만, 상당한 거절을 받은 후 결코 실현되지 않았습니다.

브리티시 컬럼비아의 데이비드 에비 총리는 연방 정부가 명확하고 투명한 보고 기준을 설정할 것을 촉구했다. 그는 이 규칙이 기업을 개인 정보 보호 위험으로부터 보호하면서 시민의 안전을 보장해야 한다고 말했다.

"나는 그들이 피해자 가족을 직접 보게하고 그들이 그 결정을 내린 이유를 설명하고 싶다"고 Eby는 말하면서 OpenAI 대표와의 만남을 요청했다고 덧붙였다.

캐나다 연방 법무 장관 션 프레이저 (Sean Fraser)는 법 집행 기관이 정보를 수집하고 텀블러 릿지 사건에서 무슨 일이 일어났는지 체계적으로 검토 할 것이라고 말했습니다. "우리는 현재 법 집행 기관에 의해 보이지 않지만 미래의 비극을 예방하는 데 도움이 될 수있는 대화를 이해할 필요가 있습니다."

자유당 정부는 지난달 온라인 위험을 다루기 위해 새로운 법안을 마련하고 있다고 확인했다. 2024년 정부는 소셜 미디어 회사가 사용자 위험을 줄이는 방법을 설명하고 어린이를 보호할 의무를 부과하도록 요구하는 규칙을 제출했습니다. 그러나 2025년 선거가 열리기 전에 그 계획은 무너졌습니다.

캐나다 문화 장관 마크 밀러는 법안의 필요성은 여전히 ​​존재하지만 정확한 형태는 아직 결정되지 않았다고 말했습니다. "플랫폼은 책임감있게 행동해야하지만 어떻게 규제되는지는 여전히 ​​논의 중입니다."

이 사건은 AI 시대의 딜레마를 보여줍니다. 언제 디지털 대화가 표현에서 실제 위협 신호로 바뀌는가? 경계가 너무 낮으면 경찰은 관련성이 없을 것으로 보이는 보고서로 덮여있을 것입니다. 너무 높으면 비극적인 위험이 놓칠 수 있습니다.

대중의 압력과 피해자 가족의 슬픔 속에서 오타와는 이제 근본적인 질문에 직면하고 있습니다. 챗봇은 중립적인 도구일 뿐만 아니라 법적 책임을 지는 새로운 사회적 행위자가 되었습니까? 인간이 그것을 인식하기 전에 의도를 읽는 알고리즘 시대에, 개인 정보 보호, 표현의 자유, 공공 안전의 경계는 점점 더 얇아지고 있습니다. 그리고 더욱 긴급하게 결정되어야합니다.