雅加达-社交网络Twitter正在使用神经网络技术测试面部和照片检测功能。不幸的是，一些用户实际上说此功能以种族主义方式整理脸孔。
9月21日，星期一，由Gizmodo报道，许多网民发现，这项新的Twitter功能只能选择白人用户，而不是黑人用户。不仅如此，Twitter的自动裁剪功能还可以使黑人用户略微偏离其一般位置。
正在尝试一个可怕的实验... Twitter算法将选择哪一个：Mitch McConnell或Barack Obama？ pic.twitter.com/bR1GRyCkia
-Tony“ Abolish（Pol）ICE” Arcieri🦀（@bascule），2020年9月19日
其他用户也发表了同样的看法，因为他们在Twitter上发布了来自Zoom的检测算法问题，这些问题已上传到Twitter。 “缩放”背景滤镜无法识别其黑色用户的脸部。
关于这个问题，Twitter设计主管Dantley Davis在推特上说，该公司正在调查其神经网络系统中发生的算法错误。 Twitter仍在多个领域进行试验，例如面部识别。
我想知道您没有测试就怎么说了吗？ pic.twitter.com/rro1vn8Mh8
-格雷厄姆·克里斯滕森（@grhmc）2020年9月19日
同时，Twitter技术负责人Parag Agrawal在推文中还透露，该功能仍需要改进。 Twitter算法仍在研究Twitter用户的行为。
Twitter发言人Liz Kelley告诉Gizmodo：“我们的团队在提交模型之前进行了偏见测试，但在我们的测试中没有发现种族或性别偏见的证据。但是，从这些示例中可以明显看出，我们还有更多分析要做。”
Twitter承诺将调查其用户发现的算法问题。但是，Twitter强调在开发此新功能时不会种族主义和偏见。
这是一个非常重要的问题。为了解决这个问题，我们在发货时对模型进行了分析，但需要不断改进。喜欢这项公开，开放且严格的测试-并渴望从中学习。 https://t.co/E8Y71qSLXa
-Parag Agrawal（@paraga）2020年9月20日
在2018年初，Twitter发布了一篇博客文章，解释了如何使用神经网络技术做出照片预览决策。导致系统选择部分图像的因素之一是较高的对比度。
这可以解释Twitter算法似乎更喜欢白脸。使用对比度作为决定因素的决定可能不是故意种族主义的，但是比黑脸更频繁地出现白脸是有偏见的结果。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
