推特展开竞争， 解决被认为是歧视性的算法， 奖品是什么？

雅加达 - Twitter 正在向用户提供现金奖励，以帮助消除其自动照片修剪算法中的偏见。作为本周在拉斯维加斯举行的 DEF CON 黑客大会的一部分，社交媒体平台宣布了 3，500 美元的"奖励"。

总部位于旧金山的社交网络面临批评，称其使用人工智能来决定大型图像中哪些部分最相关或最重要的审查的"神圣性"算法具有歧视性。因为他们的技术被认为是对象化的妇女，并选择白色的主题，而不是那些有色人种。

Twitter机器学习、道德、透明度和问责（META）项目的RummanChowdhury和Jutta Williams在一篇博文中说："在机器学习模型中发现偏见是很困难的，有时，公司知道一旦它们到达公众面前就会受到不必要的道德伤害。

"我们希望改变这一点。我们希望发展一个类似的社区，专注于道德（机器学习），以帮助我们找出更广泛的问题，而不是我们可以做我们自己，"该帖子补充说。

乔杜里在去年5月的一篇文章中说，Twitter的内部测试发现，白人比黑人只偏爱白人，女性比男性偏爱8%。"每组100张图片中，除了头部外，还有大约3张被剪裁，"他补充说。

但拥有算法审计背景的乔杜里表示，Twitter仍然担心自动算法中可能存在偏见，因为"人们不允许在平台上以自己想要的方式表现自己"。

他写道，在分析范围之外，存在其他潜在的危害，包括对文化细微差别的麻木不仁。

根据黑客网站的说明，发送者不必在 DEF CON 参加本周的比赛。

参赛作品将根据各种加权标准进行评判，包括是否有诽谤、陈规定型观念、陈述不足或歪曲、删除或丧失声誉、经济或心理，以及损失是有意还是无意。

在竞赛指南中，他们还提到："积分分配也旨在激励参与者探索代表性危险，因为他们历来很少受到关注"。

比赛将持续到8月6日星期五晚上11：59.m。挑战还承诺获得 1，000 美元的第二名奖金和第三名 500 美元的奖金，其中 1，000 美元用于最具创新性的出货量，适用于大多数类型的算法。

获奖者将在8月9日由Twitter主办的DEF CON AI村研讨会上宣布。

作为行业"第一"，威廉姆斯和乔杜里表示，他们希望这次比赛能为"主动和集体识别算法危害"设定标准。