メタは、AIチャットボットが子供と官能的な会話をすることを許可したとして非難されています

メタは、チャットボットが子供をからかったりロマンチックな役割を果たしたりすることを可能にする部分を削除しました。(写真:ドキュメント。メタ)

ジャカルタ-ロイターが報告したメタプラットフォームの内部文書は、AIチャットボットが子供とのロマンチックまたは官能的な会話に従事したり、虚偽の医療情報を提供したり、人種差別的な議論を支持したりすることを許可するポリシーを持っていることを明らかにしました。

200ページ以上の文書「GenAI:コンテンツリスク基準」には、メタAIやFacebook、WhatsApp、Instagramのチャットボットを含むメタAIアシスタントに許可される行動に関するガイダンスが含まれています。この文書は、会社の倫理責任者を含むメタの法務、公共政策、エンジニアリングチームによって承認されました。

文書によると、メタチャットボットは「子供とのロマンチックまたは官能的な会話に関与する」ことが許可されています。たとえば、AIは「あなたの若者の形は芸術作品です」や「あなた自身のすべてのインチが傑作です」などの文章で子供の外観を賞賛することができます。しかし、Metaは、チャットボットが13歳未満の子供を「性的には興味深い」と表現することを禁じています。

ロイターが8月上旬にこれに疑問を呈した後、メタはチャットボットが子供とロマンチックな役割をからかったり果たしたりすることを可能にする部分を削除しました。

「例や記録は間違っており、私たちのポリシーに従っておらず、削除されました」とメタの広報担当者Andy Stoneは述べています。私たちは、子供を取したり、大人の性的役割を伴うコンテンツを禁止する明確なポリシーを持っています。

この文書はまた、Metaチャットボットが、ウンマ化の言語を使用しない限り、人種的に侮辱的な発言をすることができることも示しています。たとえば、AIは、「黒人は白人よりも愚か者である」と述べる段落を書くことを許されていますが、「頭のないサル」とは言いません。

さらに、Meta AIは、コンテンツが真実ではないという声明を伴う場合、虚偽の情報を生成する可能性があります。たとえば、チャットボットは、情報が虚偽であるという免責がある限り、英国王室のメンバーが性感染症にかかっていると主張することができます。

この文書はまた、テイラー・スウィフトのような有名人の画像作成も規定している。メタはAIがスウィフトのヌード画像を作成することを禁止しているが、「テイラー・スウィフトは大きな魚を飼っている」などの代替画像を作成することで要求を拒否することができる。

暴力的な要求のために、Meta AIは、子供が戦ったり、男性がチェーンソーで女性を脅かしたりするなどのシーンを表示することができますが、殺人や腸の切断などのサディスティックなシーンを表示してはなりません。

スタンフォード・ロースクールの助教授であるエブリン・ドゥークは、この文書はAI企業の責任に関する倫理的および法的疑問を提起すると述べた。法的には明確な答えはありませんが、道徳的にも技術的にも、これは明らかに深刻な問題です」と彼は言いました。

AIに多額の投資を行っているメタは、暴力や人種差別の例について、この文書でさらなるコメントをしていない。