ロイターのレポートが思春期の安全性に関する懸念を明らかにした後、メタはAIに新しいセーフティ機能を追加しました

メタは、人工知能(AI)製品にいくつかの新しい安全対策を実装しています(写真:x @と)

ジャカルタ - Meta Platforms Inc.は、昨年8月上旬のロイターの独占報告がチャットボットの使用におけるティーンエイジャーの安全性に関する公衆の懸念を引き起こした後、人工知能(AI)製品にいくつかの新しい安全対策の実施を発表しました。

メタの最新の動きには、AIシステムが性別の会話に関与したり、未成年のユーザーと自分自身を傷つけたり自殺したりする行動についての議論につながるように、AIシステムを再トレーニングすることが含まれます。さらに、メタは、一部の特定のAIキャラクターへの10代のアクセスを一時的に制限しています。

メタのスポークスマン、アンディ・ストーンは8月29日(金)に電子メールで声明を出し、同社はティーンエイジャーに安全で年齢に適したAI使用体験を保証するための長期的なメカニズムを開発しながら、この方針は一時的な一歩であると述べた。「これらのセキュリティは実装され始めており、システムが改善されるにつれて調整され続けるでしょう」とストーンは言いました。

この動きは、ロイターの報道が、メタチャットボットが以前に若いユーザーとロマンチックまたは官能的な会話を行うなど、挑発的に振る舞うことを許可されていたことを明らかにした後に起こります。この新知見は、AIメタポリシーに対する批判と鋭いスポットライトの波を引き起こした。

この事件はアメリカの政治家の注目を集めた。ジョシュ・ホーリー上院議員は今月初め、Facebookの親会社のAIポリシーに関する調査を開始し、チャットボットが未成年者と不適切に交流することを許可する規則に関連する文書を要求した。

同様の懸念は、ロイターが以前にレビューしたメタの内部文書を知った後、民主党と共和党の両方の議員によっても表明されました。文書では、チャットボットが子供たちとロマンチックなロールプレーをするように誘惑することを可能にする規則が述べられています。

メタ自身も文書の信憑性を確認している。しかし、同社はロイターからの質問を受けて、物議を醸している部分が削除されたことを確認した。「問題の例や記録は間違っており、私たちのポリシーに従っておらず、削除されました」とストーンは今月初めに言いました。

この最新のセキュリティ対策により、Metaは、AIが青少年に及ぼす潜在的な悪影響について、一般の人々や規制当局の懸念を和らげようとしています。しかし、人工知能技術の急速な発展に伴い、さまざまな関係者からの精査が続くと予想されます。