Twitterが写真のプレビューで見られる人種的バイアスを調査

ジャカルタ-ソーシャルネットワークのTwitterは、ニューラルネットワーク技術を使用して顔と写真の検出機能をテストしています。残念ながら、一部のユーザーは、この機能が人種差別的な方法で顔をキュレートすると実際に言っています。

9月21日月曜日、Gizmodoの報告によると、多くのネチズンは、この新しいTwitter機能が黒人ユーザーよりも白顔のみを選択していることを発見しました。それだけでなく、Twitterの自動トリミング機能は、黒人ユーザーを一般的な位置からわずかに下に敏感に配置します。

恐ろしい実験を試みています... Twitterのアルゴリズムはどちらを選びますか：ミッチ・マコーネルまたはバラク・オバマ？ pic.twitter.com/bR1GRyCkia

--Tony“ Abolish（Pol）ICE”Arcieri🦀（@bascule）2020年9月19日

TwitterにアップロードされたZoomの検出アルゴリズムの問題をツイートした他のユーザーも同じことを報告しました。ズーム背景フィルターが黒人ユーザーの顔を認識しない場合。

この問題に関して、TwitterのデザインチーフであるDantley Davisは、同社がニューラルネットワークシステムで発生したアルゴリズムエラーを調査しているとツイートしました。 Twitterが顔認識などのいくつかの分野でまだ試行を行っているところ。

あなたがそれをテストせずにこれを言ったのはどうしてですか？ pic.twitter.com/rro1vn8Mh8

-グラハムクリステンセン（@grhmc）2020年9月19日

一方、Twitterテクノロジーの責任者であるParag Agrawalもツイートで、この機能にはまだ改善が必要であることを明らかにしました。 TwitterアルゴリズムがまだTwitterユーザーの行動を研究しているところ。

「私たちのチームはモデルを提出する前にバイアスをテストしましたが、テストで人種や性別のバイアスの証拠は見つかりませんでした。しかし、これらの例から、さらに分析を行う必要があることは明らかです」とTwitterのスポークスマンLizKelleyはGizmodoに語った。

Twitterは、ユーザーが見つけたアルゴリズムの問題を調査することを約束します。ただし、Twitterは、この新機能の開発において人種差別的で偏見を持たないことを強調しました。

これは非常に重要な質問です。これに対処するために、出荷時にモデルの分析を行いましたが、継続的な改善が必要です。この公開されたオープンで厳密なテストが大好きで、これから学びたいと思っています。 https://t.co/E8Y71qSLXa

-パラッグアグラワル（@paraga）2020年9月20日

2018年の初めに、Twitterは、ニューラルネットワークテクノロジーを使用して写真のプレビューを決定する方法を説明するブログ投稿を公開しました。システムが画像の一部を選択する要因の1つは、コントラストレベルが高いことです。

これは、Twitterアルゴリズムが白い顔を好むように見える方法を説明することができます。コントラストを決定要因として使用するという決定は、意図的に人種差別的ではなかったかもしれませんが、黒い顔よりも白い顔を頻繁に表示することは、偏った結果です。