メタは、人工知能の結果の画像の検出とラベル付けを開始します

メタのグローバルアフェアーズ担当プレジデント、ニック・クレッグ(右)(写真:x @nickc グ)

Meta Platforms Inc. は、今後数カ月以内に他社の人工知能サービスによって生成された画像の検出とラベル付けを開始する予定です。彼らはファイルに組み込まれた一連の目に見えないマーカーを使用します。これは2月6日火曜日にメタのポリシーエグゼクティブによって言われました。

Metaは、Facebook、Instagram、およびスレッドサービスに投稿されたマーカーを運ぶコンテンツにラベルを適用し、多くの場合、実際の写真に似ている画像が実際にはデジタル作成であることをユーザーに知らせるよう努めます。これは、メタのグローバルアフェアーズ担当プレジデントであるニッククレッグによって、ブログ記事で概説されています。

同社は、自社製のインテリジェンスツールを使用して作成されたすべてのコンテンツにラベルを付けてきました。

「新しいシステムが実行されると、メタはOpenAI、Microsoft、Adobe、Mid Journey、Shutterstock、AlphabetのGoogleが運営するサービスで作成された画像についても同じことをします」とC レッグ氏は述べています。

この発表は、偽のコンテンツを生成する可能性があるが、単純な指示に応じて現実のものに見える生成人工知能技術に関連する潜在的な損傷を軽減するために、テクノロジー企業によって開発された進化する標準システムを最初に見ることができます。

このアプローチは、大規模な暴力や児童取の画像を含む、プラットフォーム間の禁止コンテンツの削除を調整するために、複数の同社によって過去10年間に作成されたテンプレートに基づいています。

インタビューでクレッグ氏はロイターに対し、同社は現時点で人工知能が制作した画像にラベルを付けることができると確信しているが、オーディオとビデオのコンテンツをマークするツールはより複雑でまだ開発中だと語った。

「この技術はまだ完全には成熟していませんが、特にオーディオやビデオに関しては、業界全体がフォローする勢いとインセンティブの感覚を生み出すことができることが期待されています」とクレッグ氏は述べています。

彼はまた、メタは人々に自己修正されたオーディオとビデオのコンテンツにラベルを付けるよう要求し始め、そうしないと制裁を課すと付け加えた。クレッグは制裁を説明しなかった。

彼は、ChatGPTのような人工知能ツールによって生成された書面によるテキストにラベルを付けるのに適したメカニズムはないと付け加えた。「もう手遅れだ」とクレッグは言った。

メタの広報担当者は、同社が暗号化されたメッセージングサービスWhatsAppで共有されている生成人工知能コンテンツにラベルを付けるかどうかについては言及しなかった。

メタの独立した監視委員会は2月5日月曜日、誤解を招くように編集されたビデオに関する同社のポリシーを叱責し、ポリシーは狭すぎ、コンテンツは削除されるのではなくラベル付けされるべきであると述べた。

クレッグ氏は、批判に一般的に同意すると述べた。「評議会は正しい」と彼は言った。「既存のメタポリシーは、これまで以上に合成コンテンツとハイブリッドコンテンツを所有する環境の目標に沿っていません。

彼は、メタがすでに取締役会によって提案された方向に動いているという証拠として、新しいマーキングパートナーシップを指摘しました。