ジャカルタ - メタがインスタグラムとフェイスブックで提供しているチャットボットが脚光を浴びています。その理由は、プラットフォーム上のアーティスト個性を持つチャットボットが未成年者との性的会話に関与しているためです。
昨年、メタはチャラクターアプリのチャットボットに似た機能であるAIキャラクター機能を拡張しました。AIユーザーは、Meta AIが提供したキャラクターとチャットしたり、必要に応じて新しいキャラクターを作成したりすることもできます。
ユーザーは、自分のキャラクター、希望するアーティストのキャラクター、または動物のキャラクターを作成できます。ウォールストリートジャーナル(WSJ)は、何ヶ月もこの機能について研究してきました。この研究は、未成年者の保護に関する懸念に基づいています。
結局のところ、これらの懸念はWSJが報告した研究の結果で明らかです。メタプラットフォーム全体で何百もの公式およびユーザー製のチャットボットをテストした後、俳優のジョン・デイサの声を持つチャットボットは誰とでも性的会話をすることができます。
実際、ユーザーが自分自身を14歳の少女と識別すると、チャットボットはまだ性的会話をします。別の会話では、チャットボットはシダを想像することができ、17歳のファンは警官に逮捕されました。
警察は、「ジョン・カサ、あなたは法律に従って強姦で逮捕されました」と言いました。他のチャットボットが未成年者であると主張するユーザーと性的会話を行うことができるという報告はありません。
この報告を見て、メタの広報担当者はWSJテストは「非常にでっち上げ」であると述べた。しかし、同社は、Meta AIとAI Studioの回答から性的なコンテンツの0.02%が見つかったことを認めています。この割合は30日以内に見つかった。
「それでも、極端な使用の場合に当社の製品を操作するために何時間も費やしたい他の人々がより大きな困難に直面することを保証するために、追加の措置を講じました」と広報担当者はTechCrunchから 引用しました。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
