ユーザーアカウントに対するTwitterからの丁寧な警告は、ヘイトスピーチを下げる可能性があります

ジャカルタ - 研究チームは最近、ツイッターで実験を行いました。その結果、Twitterユーザーが憎悪的な言葉を使った懲罰的行為を警告されると、憎悪的なコンテンツを投稿する可能性が実際には20%減少することがわかりました。

Twitterはしばらくの間この問題と闘っており、最近、プラットフォームの危険を減らす努力を強化しました。Twitterのコンテンツルールの最も重要な犠牲者の一人は、プラットフォームから永久に禁止されたドナルド・トランプ元米大統領でした。

過去数四半期にわたり、Twitterは有毒な相互作用や誤った情報の問題に対処するために多くの措置を講じています。今年5月、Twitterは、個人やグループを傷つけたり傷つけたりするものを投稿する前に、ユーザーに再考を求める要求を展開し始めました。

ユーザーが文脈的に認識し、誤った情報やその他の有害なコンテンツを拡散するのを助けないようにするために、Twitterはリツイートする前に記事を読むようユーザーに求め始めました。しかし、問題は続き、それに対処することは、特に米国外の市場では、Twitterにとって困難な道であることが証明されています。

ニューヨーク大学の研究チームは、憎悪的なコンテンツを投稿した場合、アカウントが停止される可能性があることをユーザーに警告するテストを実施しました。

ケンブリッジ大学出版局が発表した論文「ショートサスペンション:停止アラートがTwitterでのヘイトスピーチを減らす方法」は、停止と即時停止に関するユーザー警告の有効性と、各シナリオがヘイト投稿の可能性にどのような影響を与えるかを調べています。

チームは、警告が実際に機能し、警告メッセージがより丁寧であれば、悪意のあるコンテンツを投稿する可能性ははるかに低いと結論付けました。調査の一環として、チームは昨年7月21日の前の週に投稿された60万人以上の憎悪的なツイートを選択し、プラットフォームのコンテンツポリシーに違反したために停止されたアカウントの合計4,300人のフォロワーを隔離しました。

その後、チームは「あなたがフォローしているユーザー(@account)が停止されており、これは憎悪的な言葉によるものだと思う」という行で始まる警告メッセージを出しました。

しかし、その後の言語はさまざまで、「ヘイトスピーチを続けると一時的に中断される可能性があります」と同じくらい簡単です。または、「ヘイトスピーチを続けると、投稿、友人、フォロワーが失われ、アカウントが戻ってこない」というように、もう少し礼儀正しく表示されます。

目標は、注文が正当に見えるようにする効果的な警告メッセージを配信し、ターゲットオーディエンスが問題のあるコンテンツを投稿した場合に報復措置が取られるという考えを伝えることです。

チームは、警告プロンプトを送信すると、週の間にヘイトツイート率を0.007、または1週間後に最大10%減らすのに役立ったと指摘しました。しかし、メッセージがより丁寧に表現されたシナリオでは、ヘイトツイートの減少はさらに高まり、15~20%の間で推移しました。

このようなアラートの影響は1ヶ月までしか続かっていませんが、有毒なツイートからの一時的な報復でさえ、Twitterのチームがそれを構築することを可能にする励みになる兆候です。