Googleには、小規模なWebサイトのテロリストコンテンツと戦うためのモデレーションツールがあります

Googleは、テロリストのコンテンツを根絶するのを支援するテクノロジーの巨人としてMetaに参加しました。(写真:グーグル博士)

ジャカルタ-Googleは、テロリストのコンテンツを根絶するのに役立つテクノロジーの巨人としてMetaに参加しました。伝えられるところによると、同社は無料のモデレーションツールを開発しており、小規模なWebサイトで使用できます。

このツールは、小規模なWebサイトでテロリストの素材を特定して削除するのに役立ちます。Googleだけが開発しているわけではなく、Googleの子会社である国連が支援するJigsawおよびTech Against Terrorism部門と提携しています。

Metaのオープンソースユーティリティと同様に、このモデレーションツールは、AI検出アルゴリズムを開発したり、大規模なモデレーションスタッフを雇ったりできないサイトを支援することを目的としています。

これは、欧州連合のデジタルサービス法と英国のオンラインセキュリティ法案が、サイト運営者に罰則を回避するために過激派のコンテンツをプルすることを要求する場合に必要になる可能性があります。

「法執行機関に人がいないウェブサイトはたくさんあります。アルゴリズムを構築することでさえ非常に労働集約的なことであり、それならそれらすべての人間のレビュー担当者が必要です」とジグソーの最高経営責任者であるヤスミン・グリーンは述べています。

その後、このモデレーションツールは、2017年にFacebook、Microsoft、Twitter、YouTubeによって形成されたテロ対策のためのグローバルインターネットフォーラムによって収集されたテロリストの疑いのあるコンテンツのデータベースに依存します。2つの名前のないサイトが今年後半にコードをテストします。

1月4日水曜日にEngadgetを立ち上げたGoogleとTech Against Terrorismは、オンラインテロ活動に対抗するための抜け穴を塞ぐために彼らのプロジェクトが必要であると考えています。

オンラインテロリストはしばしば小規模なWebサイトに目を向け、常にユーザーを適切に監視できるとは限りません。このツールは、テロリストが安全な避難所を見つける可能性を減らします。

ただし、Googleは、その優しさのためだけに、これらの中小規模のサイトを必ずしも支援するわけではありません。

このプロジェクトがすぐに利益を上げることは期待されていないが、グリーン氏はフィナンシャルタイムズに、コンプライアンスに準拠したテロ対策のウェブをサポートすることがGoogleの最善の利益であると語った。

「ビジネスには長期的なリターンがあるという理解があります。Googleはより健全なインターネットを必要としている」とグリーン氏は語った。

一方、Metaの新しいモデレーションツールであるHasher-Matcher-Actioner(HMA)は、テロリストまたは過激派のコンテンツの検出に関心のある企業が利用できます。

この場合、HMAのツールは既知のテロリストコンテンツのハッシュを使用して、プラットフォームまたはサイトが重複する画像またはビデオを検出し、それらに対して強制措置を講じることを可能にします。