メタは、ジェネレーティブAIが世界選挙期間中にネガティブなコンテンツを減らすことができると明らかにしました

ニック・クレッグ社長、世界経済フォーラムのグローバルメタ担当(写真:メタ)

ジャカルタ - 現在、人工知能(AI)とジェネレーティブAI技術は、このジェネレーティブAIが利点だけでなく懸念もももたらす世界社会全体の剣と盾となっています。

スイスのダボスで開催された世界経済フォーラムでのパネルディスカッションで、グローバルメタアフェアーズのニッククレッグ社長は、選挙期間中に生成AIツールが悪用される可能性について懸念を表明しました。

「私たちは、今年の選挙に先立ってAIの進歩の影響について専門家と話し合ってきましたが、コンテンツがAIによって作成されたか人間によって作成されたかにかかわらず、実装できるポリシーがあります」とクレッグ氏は述べています。

現在、AIの使用と開発に関する正式な業界標準を設定する規制を持つ国は多くありませんが、メタはプラットフォームを安全に保つために独立した措置を講じています。

そのうちの1つは、ウォーターマーキングを使用して、画像がメタAI機能でいつ作成されたかを人々が理解するのに役立つことです。

「今後数年間で、合成コンテンツのウォーターマーキングについて話したばかりだと簡単に想像できます。いつの日か、私たち全員がオリジナルで検証済みのコンテンツのウォーターマーキングを探すようになるだろうと簡単に想像できます」とクレッグはさらに言いました。

彼によると、このウォーターマーキングツールはインターネット上で確実性をもたらすことができるので、コンテンツを見る人々はコンテンツの信憑性を証明することができます。

Facebookでクレッグ氏は、彼らのジェネレーティブAIツールはAIまたはハイブリッドコンテンツによって作られたコンテンツを大幅に削減できると述べた。

「AIについて私が言いたいのは、もちろん生成AIは合成材料などの適用を高速化できるということだけです。また、メタなどの流通プラットフォームでは、悪いコンテンツを実際に識別するための最良の武器の1つでもあります」と彼は説明しました。

したがって、たとえば、Facebookでのヘイトスピーチの蔓延を見ると、クレッグは説明していますが、0.01%しか見つからない可能性があります。

「その数は減っているので、10,000ビットのコンテンツごとに、少しヘイトスピーチが表示されるかもしれません。この減少は、一つの理由、一つの理由、つまりAIのために、過去2年間で非常に顕著でした」と彼は言いました。

「AIは非常に効果的なツールとなり、悪いことを追求する際の分類を改善しました。だからそれは剣と盾です。私たちはそれを覚えておく必要があると思います」と彼は締めくくりました。