OpenAIは中国政府によって管理されているとされるChatGPTアカウントをブロックし、ソーシャルメディアスパイツールを作成するよう依頼

OpenAIは、多数のChatGPTアカウントをブロックしたと発表しました(写真:ドキュメント。ペクセル)

ジャカルタ-OpenAIは、アカウントのユーザーがチャットボットにソーシャルメディアでの会話監視に関連する提案を作成するように依頼した後、中国の政府機関に関連している疑いのある多くのChatGPTアカウントをブロックしたと発表しました。

サンフランシスコに本拠を置く同社は、最新の公的脅威レポートで、一部の個人がChatGPTを使用して、「ソーシャルメディアリスニング」ツールの草案やその他のデジタル監視の概念(OpenAIの国家安全保障政策に違反すると考えられる要求)を要求したと述べました。

この動きは、AI技術の開発と規制における米国と中国の競争が激化する中、生成人工知能の誤用に関する新たな懸念を浮き彫りにするものです。

OpenAIは、中国に接続されたアカウントに加えて、フィッシングキャンペーンやマルウェア作成を支援するためにChatGPTを使用していることが知られている多くの中国語アカウントも閉鎖し、AIモデルにDeepSeekと呼ばれる中国のAIシステムを介して行うことができる追加の自動化を検討するよう依頼しました。

中国米国大使館はこの報告書についてコメントしていない。

それだけでなく、OpenAIは、ChatGPTを使用して特定の種類のマルウェアの開発を支援したロシア語を話す犯罪グループに関連しているとされるアカウントも無効にしました。

OpenAIによると、2024年2月に公共の脅威レポートの公開を開始して以来、40を超える悪意のあるネットワークを妨害し、報告してきました。マイクロソフトが支援する同社は、自社のモデルが新しい戦術を示さず、脅威アクターに新しい攻撃機能を提供していないことを確認しました。

「新しい戦術の証拠や、私たちのモデルが前例のない攻撃機能を提供するという兆候は見つかりませんでした」とOpenAIはレポートに書いています。

現在、週に8億人以上のChatGPTユーザーがいるOpenAIは、先週の二次株式売却を完了した後、5,000億ドルの評価額で世界で最も価値のあるスタートアップになりました。