ジャカルタ - ペンシルベニア大学の学生、オルガ・ロイエクは、インターネット上の聴衆を探していますが、事件は予想外に起こりました。昨年11月にYouTubeチャンネルを立ち上げた直後、ウクライナ出身の21歳のLoiekは、彼の画像が人工知能によって撮影され、処理され、中国のソーシャルメディアプラットフォームにエゴを生み出したことを発見しました。
彼女のデジタルドッペルベンジャーズ(楽園)「ナターシャ」は、中国語に堪能なロシア人女性であると主張し、ロシアのキャンディーなどの製品を販売することでほとんどお金を稼いでいない間、ロシアに対する彼女の支援について中国に感謝したいと考えています。
さらに、これらの偽のアカウントは中国に何十万人ものフォロワーがおり、Loiek自体よりもはるかに多い。
「それは本当に中国語を話す私の顔のようなもので、背景にはクレムリンとモスクワを見て、ロシアと中国がいかに偉大であるかについて話しました」とロイエクはロイターのVOIによって言ったと引用されました。「これは私の人生で決して言わないことなので、それは非常にひどいです。」
Loiekのケースは、中国のソーシャルメディアでロシア出身と思われる女性の数の増加を表しており、中国への愛を流暢な北京語で示し、祖国から輸入製品を販売することによってロシアの戦争を支援したいと言います。
しかし、そのうちのどれも本当に存在しません。専門家によると、彼らはAIによって、オンラインで見つかったネイティブの女性クリップを乱用することによって制作され、しばしば彼らの知らないうちに、これらの偽のアバターによって作成されたビデオは、中国の独身男性に製品を販売するために使用されました。
Loiekの画像で作成されたアカウントには数十万人のフォロワーがおり、キャンディーを含む数万ドル相当の製品を販売しています。一部の投稿には、AIを使用して作成された可能性があるという免責事項が含まれています。
Loiekのようなアバターは、ロシアがウクライナに侵攻する数日前にロシアのウラジーミルプチン大統領が北京を訪問した2022年に発表されたロシアと中国の間の「ボーダレス」パートナーシップを利用しています。
高度なAI技術を開発し、Loiekの状況には関与していないXMOVのCEOであるJim Chai氏は、そのような画像を作成する技術は「中国で多くの人が使用しているため、非常に一般的」だと述べた。
「たとえば、自分の2Dデジタルヒューマンを作成するには、自分の30分間のビデオを録画するだけで、完了したらビデオを編集します。もちろん、これは非常に現実的に見え、言語を変更する場合、調整する必要がある唯一のことはリップ同期です」とチャイ氏は述べています。
人工知能は広く議論されているトピックであり、Loiekのストーリーは、コンテンツを作成して広めるための強力なツールが世界中で一般的になっているため、違法または非倫理的な使用のリスクを強調しています。
誤った情報、偽のニュース、著作権を有する資料に貢献するAIに関する懸念は、ChatGPTなどの生成AIシステムの人気に沿って、ここ数ヶ月で高まっています。
1月、中国はAI業界を標準化するための設計ガイドラインを発行し、2026年までに50以上の国内および産業基準を確立することを提案した。高リスクAIシステムに厳格な透明性義務を課すEUのAI法は、今月施行され、潜在的なグローバルスタンダードが設定されています。
しかし、北京大学法学部のシン・ダイ教授は、規制は急速なAI開発に追いつこうとしていると述べた。
「情報を作成し、コンテンツを作成し、コンテンツを広め、基本的に次の毎分利用可能になるコンテンツを広めるためのツールがますます強くなっていると予測することしかできません」とDai氏は述べています。「ここで重要なことは、巨大なボリュームだと思います...中国だけでなく、インターネット全般においても」
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
