Facebookは、ディープフェイク写真やビデオ検出機能を作成します

ジャカルタ – Facebookは、プラットフォーム上で誤った情報が流通している問題を根絶しようと努力し続けています。そのうちの一つは、ディープフェイク検出ソフトウェアを提示することです。

スプートニクニュースから引用されたDeepfakesは、写真、ビデオ、オーディオ録音を含むメディアで、人工知能(AI)を使用して編集され、現実的に見えます。

これは、多くの場合、一般的にインターネットユーザーと特にFacebookのソーシャルメディアユーザーの間で混乱を引き起こします。彼らは偽物と実際の画像やビデオを区別することができないので.ディープフェイクは事実をデマに歪める可能性があります。

Facebookで働くコンピュータプログラマーの一人は、彼の党がDeepfakesを認識できるだけでなく、公式Facebookブログに書かれてファイルの起源を検出できるソフトウェアを開発したと説明しました。

Facebook人工知能(AI)の研究者であるXi Yin氏とTal Hassnerは、コンピュータサイエンスの専門家チームと提携し、リエンジニアリング技術を通じてDeepfakeファイルを「元に戻す」ことができることを明らかにしました。この技術は、顔の画像を検出し、それらが作成された方法と場所を決定することができます。

「この研究は、研究者や実務者にDeepfakesを使用して組織的な情報漏えいの事件をよりよく調査し、将来の研究のための新しい方向性を開くツールを提供します」と、科学者はミシガン州立大学が発表した声明の中で述べています。

それだけでなく、研究者はまた、このようなDeepfakesを作成するプロセスは、通常、デジタルファイルの「指紋」を変更し、特定の欠陥を残していることを明らかにしました。このディープフェイク検出技術は、Deepfakeファイルの欠陥を探すために使用されます。

「デジタル写真では、画像を生成するために使用されるデジタルカメラを識別するために指紋が使用されます」と、科学者が言いました。

「デバイスの指紋と同様に、画像フィンガープリントは画像に残されたユニークなパターンです。どちらも、画像が作成された生成モデルを識別するために使用することができます"

Facebookチームに加えて、同様の技術は、ビデオオーセンティケータと呼ばれるマイクロソフトによって作成されています。マイクロソフトは、2020 年末に米国大統領選挙の最中にこのテクノロジを導入しました。

マイクロソフトが作った技術は、画像やビデオを分析し、人間の目では見ることができない操作を検出することによってDeepfakeファイルを明らかにすることもできます。

Deepfake検出技術の存在により、将来的には、サイバー空間、特に事実を歪めるために使用されるAIで編集された画像やビデオファイル、オーディオにおける誤った情報の拡散に対抗できることが期待されます。