Twitch、ヘイトスピーチ検出器ツールを発売

ジャカルタ - Amazon.com 社のライブストリーミングサイトTwitchは、禁止されているチャンネルにアクセスしようとしているユーザーを検出するツールを立ち上げました。この機能は 11 月 30 日火曜日に使用されます。

不審なユーザー検出と呼ばれる新しいツールは、チャンネル禁止回避者に「可能性が高い」または「可能」としてフラグを立てるので、チャンネルクリエイターとモデレーターはアクションを実行するかどうかを決定できます。

Twitchは現在、チャットストリーマーに嫌がらせメッセージが殺到する、標的型ハラスメントやいわゆるヘイト攻撃など、サイト上の虐待に対抗するようユーザーから圧力を受けています。

ビデオゲーマーに人気のプラットフォームは、より良い禁止回避者と戦う方法の必要性に関するユーザーのフィードバックに応じてツールを立ち上げたと言いました。

「これは、ターゲットを絞ったハラスメントの中核的な問題に取り組んでいます」と、Twitchの公衆衛生製品担当ディレクター、アリソン・ハフマンはインタビューで述べています。「コンテンツクリエイターとそのモデレーターとの会話を通じて、これが彼らにとって永続的な問題であることを時々聞きました。

Huffman氏によると、Twitchが数ヶ月間取り組んできた機械学習ツールは、特定の種類のユーザー行動とアカウント特性を検出して、潜在的な禁止回避者にフラグを立てるという。

このツールはすべてのチャンネルでデフォルトで有効になりますが、調整または無効にすることができます、とTwitchは言います。また、ユーザーは、より詳しく監視したいツールのユーザーを手動で追加できると述べています。

9月、Twitchはクリエイターとモデレーターが新しいハラスメント対策でチャットメッセージを送信する前に電話と電子メールの検証を要求する方法を追加しました。その月、彼はまた、2人のヘイトスピーチ虐待の疑いに対して米国連邦裁判所に苦情を申し立てました。

今年初め、同社はプラットフォーム外で発生する重大な違反に対してユーザーを禁止すると述べた。

人工知能のサブセットである機械学習は、経験やデータの使用を通じて自動的に改善できるコンピュータアルゴリズムの研究です。