Twitter调查照片预览中的种族偏见

雅加达-社交网络Twitter正在使用神经网络技术测试面部和照片检测功能。不幸的是，一些用户实际上说此功能以种族主义方式整理脸孔。

9月21日，星期一，由Gizmodo报道，许多网民发现，这项新的Twitter功能只能选择白人用户，而不是黑人用户。不仅如此，Twitter的自动裁剪功能还可以使黑人用户略微偏离其一般位置。

正在尝试一个可怕的实验... Twitter算法将选择哪一个：Mitch McConnell或Barack Obama？ pic.twitter.com/bR1GRyCkia

-Tony“ Abolish（Pol）ICE” Arcieri🦀（@bascule），2020年9月19日

其他用户也发表了同样的看法，因为他们在Twitter上发布了来自Zoom的检测算法问题，这些问题已上传到Twitter。 “缩放”背景滤镜无法识别其黑色用户的脸部。

关于这个问题，Twitter设计主管Dantley Davis在推特上说，该公司正在调查其神经网络系统中发生的算法错误。 Twitter仍在多个领域进行试验，例如面部识别。

我想知道您没有测试就怎么说了吗？ pic.twitter.com/rro1vn8Mh8

-格雷厄姆·克里斯滕森（@grhmc）2020年9月19日

同时，Twitter技术负责人Parag Agrawal在推文中还透露，该功能仍需要改进。 Twitter算法仍在研究Twitter用户的行为。

Twitter发言人Liz Kelley告诉Gizmodo：“我们的团队在提交模型之前进行了偏见测试，但在我们的测试中没有发现种族或性别偏见的证据。但是，从这些示例中可以明显看出，我们还有更多分析要做。”

Twitter承诺将调查其用户发现的算法问题。但是，Twitter强调在开发此新功能时不会种族主义和偏见。

这是一个非常重要的问题。为了解决这个问题，我们在发货时对模型进行了分析，但需要不断改进。喜欢这项公开，开放且严格的测试-并渴望从中学习。 https://t.co/E8Y71qSLXa

-Parag Agrawal（@paraga）2020年9月20日

在2018年初，Twitter发布了一篇博客文章，解释了如何使用神经网络技术做出照片预览决策。导致系统选择部分图像的因素之一是较高的对比度。

这可以解释Twitter算法似乎更喜欢白脸。使用对比度作为决定因素的决定可能不是故意种族主义的，但是比黑脸更频繁地出现白脸是有偏见的结果。