ギャラクシーAIは、肌の色の説明の矛盾について批判されました

ジャカルタ-サムスンは、昨年のギャラクシーS24シリーズの発売に合わせてギャラクシーAI機能を導入しました。同社は、新しくリリースされたギャラクシーS25シリーズなどのサムスンのデバイスとのユーザーインタラクションをより直感的で有用なものにするために、この一連の人工知能を開発しました。

最も先進的で機能に富んだAIの1つであるにもかかわらず、Galaxy AIは問題を回避していません。Redditユーザーは、Galaxy AIの肌の色彩説明に関するコンテンツフィルタリングシステムに矛盾があることを発見しました。

どうやら、ギャラクシーAIのコンテンツフィルタリングシステムは、特定の肌の色を説明する際に一貫性がありません。Redditへの投稿で、P26601という名前のユーザーは、作曲家(ギャラクシーAIの執筆アシスタント)機能がスペルと文法をどのようにチェックするかを示すいくつかのスクリーンショットを共有しました。

スクリーンショットでは、「私の肌は白です」というフレーズを問題なくチェックできます。ただし、ユーザーが「私の肌は黒です」というフレーズを確認しようとすると、Galaxy AIは拒否し、テキストに「不適切なコンテンツ」が含まれている可能性があるという警告を表示します。

さらに、「私の肌は茶色です」というフレーズは問題がなく、問題のあるコンテンツとは見なされていません。一方、Galaxy AIのコンテンツフィルタは、誰かが他人の肌の色を説明すると、よりタイトになっているようです。ユーザーが「彼の肌は白です」と「彼の肌は黒です」というフレーズを確認しようとすると、Galaxy AIはそれを不適切なコンテンツとしてマークします。

他の多くの人工知能アシスタントと同様に、ギャラクシーAIは完璧とはほど遠い。システムがコンテンツモデレーションポリシーで批判を受けたのはこれが初めてではありません。昨年、一部のユーザーは、特に特定の単語の使用を制限するには厳しすぎると考えられていたため、Galaxy AIフィルタリングポリシーに疑問を呈しました。

あるケースで、Redditユーザーは、小児科医との会話で「プープ」という言葉を使用できないことを明らかにしました。別のケースでは、Galaxy AIは「ホット」という単語が問題があると考えられるため、「急速で、親しみやすく、ホット」という単語を不適切とマークします。

これらの問題は、サムスンがギャラクシーAIのコンテンツモデレーションポリシーをまだ改善する必要があることを示唆しています。伝えられるところでは、同社はこの技術がより良くなり、その使用に偏見を引き起こさないように、ユーザーコミュニティからのフィードバックに耳を傾けるでしょう。