ヨーロッパはiMessage、WhatsAppは児童虐待コンテンツスキャンを実装するよう強制する

欧州連合(EU)は最近、メッセージングアプリ企業がオンラインで児童虐待コンテンツをより積極的にフィルタリングして削除することを困難にする新しい法案案を発表しました。

この法案により、EU諸国は裁判所に対し、メタやアップルなどの企業に対し、自社のプラットフォーム上の児童の性的虐待コンテンツを検出できるシステムを実装するよう命じるよう求めることができる。

つまり、WhatsApp、iMessage、Messengerなどのメッセージングアプリは、児童の性的虐待の素材を検出するシステムを取得します。

この規制は、既存の児童虐待の素材をスキャンするだけでなく、新しい児童の性的虐待の素材や治療法もスキャンするため、人工知能を使用して画像やテキストメッセージをスキャンする注文検出を受け取った場合、世界で最も人気のあるメッセージングアプリのいくつかで行われている会話をスキャンする監視権限が当局に与えられます。

「検出命令は期限付きで、特定のサービス上の特定の種類のコンテンツをターゲットにしている」と欧州委員会は述べ、命令は独立した国内裁判所または当局によって発行されると付け加えた。

「検出技術は、児童の性的虐待を検出する目的でのみ使用されるべきである。プロバイダーは、少なくとも業界の最先端技術に従ってプライバシーを妨害し、誤検知エラーの割合を可能な限り最大限に制限する技術を実装する必要があります。

この規則はまた、メッセージングアプリ会社に対し、子どもが性的勧誘のリスクが高いコンテンツをダウンロードしないようにすることも義務付けている。

英国、米国、ヨーロッパ全土を含む多くの政府は、テクノロジーの巨人にエンドツーエンドの暗号化されたチャットにバックドアを設置するよう求めることで、ユーザーのプライバシーを侵食しようとしています。

「インターネット上で提案されているEU規制がエンドツーエンドの暗号化を保護できないのは残念です。EUがEUで単一の目的のために構築されたこのようなスキャンシステムを義務付ければ、それは世界中でさまざまな方法で人権を損なうために使用されるでしょう」とWhatsAppのチーフ、ウィル・キャスカートは述べた。

「立法者は、すべての人に害を及ぼさないようにインターネットセキュリティを理解している専門家と協力し、インターネット上のプライバシーを奨励しながら子供を保護する方法に焦点を当てる必要があります。

インターネット上のEU規制案がエンドツーエンドの暗号化を保護できないのを見て、信じられないほど残念です。https://t.co/1W1HixQUVJ

— ウィル・キャスカート (@wcathcart) May 11, 2022

Appleは以前、同様の技術を使用する児童虐待対策機能を導入しようとしました。このデバイスは、子供が不適切な写真が送信されたとき、およびユーザーが自分のデバイスに子供の性的虐待の素材を持っているときに検出します。

しかし、批評家は、このツールが他の種類の資料をスキャンし、人権としてのプライバシーに対するAppleの公的コミットメントを損なうために使用される可能性があると主張しています。昨年9月、Appleはこれらの機能が修理されるまで無期限に延期すると発表した。