ジャカルタ - 人工知能の世界では、子供の安全性の問題が再び浮上しています。今回、子どもたちのテクノロジーの安全性を評価する非営利団体であるコモン・センス・メディアが最新のレポートを発表した後、Google Geminiにスポットライトが当てられました。評価では、ジェミニは「ハイリスク」とラベル付けされたか、子供や青年にリスクの高い。
報告書は、ジェミニが子供の安全の面で強固な基盤を築くことができなかったことを確認しました。Googleは「アダルト13」と「ティーンエクスペリエンス」の特別なモードを提供していますが、どちらもシンプルなフィルタを追加した大人のためのフルバージョンにのみ似ていると考えられています。おそらく、モードは、成人製品の適応だけでなく、子供のニーズに合わせて完全に再設計されました。
「ジェミニは、子供と話すとき、自分自身を『コンピューター』であり、『友人』ではないと自称しています。しかし、このアプローチはまだ十分ではありません。子供の安全は最初から構築されるべきであり、追加の機能として添付されるべきではない」と報告書は述べている。
さらに心配なことに、評価によると、ジェミニは、特別なモードであっても、子供に不適切で有害なコンテンツを提示することはできます。薬物、セックス、アルコールに関する情報などのコンテンツは、未成年者との会話に表示される可能性があります。
Common Sense Mediaは、Googleが子供や青少年のためのツールを設計するために必要な基本的な柱を無視していると評価しています。若い聴衆が大人とは異なる指導とアプローチを必要としていることを理解する代わりに、ジェミニは単なる小さな調整と同じ扱いを与えると考えられています。
「ジェミニのような人工知能が子供の日常生活で使われるなら、デザインは最初から彼らの開発ニーズに注意を払わなければなりません。アダルト・バージョンからカスタマイズされた製品は明らかに十分ではない」と、報告書で引用された専門家は述べた。
この警告は、メタも同様のケースでつまずいた後、AIセキュリティに対する一般の関心が高まっている中で発せられます。しばらく前に、Metaチャットボットが未成年のユーザーに明示的な言語を使用していると報告され、子供によるAIテクノロジーの使用に関する親の懸念の長いリストに追加されました。
コモンセンセメディアの「ハイリスク」評価により、両親はジェミニを自宅で子供たちに紹介する際により警戒するよう求められています。Googleからの大幅な改善があるまで、このAIの使用は依然として子供や青年の発達を危険にさらす可能性があると考えられています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
