WhatsApp AIステッカーは、パレスチナ人捜索で銃を持っている子供たちの写真を表示します

ジャカルタ - WhatsAppでの人工知能(AI)ベースのステッカーの作成が懸念されています。今回は彼の能力のためではなく、パレスチナ人とイスラエル人の間の明示的な差別のためだった。

最近のガーディアンブレポートでは、WhatsAppのAIベースのステッカーには、ユーザーが検索で「パレスチナ」という単語を検索すると、銃や銃を持っている少年を示します。

同じ表示は、ユーザーがパレスチナのイスラム教徒の男の子という言葉を検索するときにも表示されます。しかし、イスラエルという言葉を含む検索では、見た目は非常に異なります。

ガーディアンはキーワード「イスラエルの男の子」と、ボール遊びや読書をしている子供たちだけが表示するステッカーで検索しようとしています。「イスラエル」キーワードを検索すると、見えるのは、笑顔でイスラエルの旗を掲げている子供たちだけです。

ステッカーの外観は、オーストラリアの上院議員のMehreen Faquriが、彼の国のe- Safetydi委員に、メタ上の人種差別的でイスラム嫌悪の画像の可能性を調査するよう依頼するまで問題でした。

実は、この問題は先月から発生しています。メタのAIステッカーメーカーは、表示された画像が暴力的、虐待的、不適切な外観に満ちている傾向があるため、抗議を表明しました。

当時、メタのスポークスマン、ケビン・マカリスターはTheerkebahwa Metaがこの問題に対処しようとしていると語った。また、ユーザーからの入力を伴ってステッカー機能も改善します。

しかし、Metaはこれまでこの問題を解決しておらず、Metaが真の差別を犯していると多くの当事者が確信しています。この新知見はまた、イスラエルとハマスの間の戦争状況をさらに熱くしている。