中国は、人間のように対話するAIを規制するための草案を発行

ジャカルタ - 中国のサイバー規制当局は、人間のように働くことができる人工知能(AI)サービスの監視を強化するための新しい規則草案を正式に発表しました。

この措置は、同国の消費者にとってより安全で倫理的なAI開発を形成するために実施されました。この規則は、ユーザーと感情的に対話する思考パターン、コミュニケーションスタイル、および機能を備えたAI製品を対象としています。

この規制には、テキスト、画像、音声、ビデオなど、さまざまなインタラクション形式が含まれます。政府は、サービスプロバイダーに、これらのテクノロジーを過度に使用しないようユーザーに警告することを義務付けています。

また、ユーザーが中毒の兆候を見つけた場合、企業は介入しなければなりません。AIサービスプロバイダーは、厳格なアルゴリズムレビューシステムを構築し、ユーザーの個人情報の保護を確保することを義務付けられています。

このドラフトはまた、機械との感情的な相互作用から生じる可能性のある心理的リスクに特別な注意を払っています。企業は、極端な感情状態または不当なユーザー依存度を特定できることが期待されています。

ユーザーが中毒性の行動を示す場合、サービスプロバイダーはアクセスを制限するために実質的な行動をとる必要があります。これは、デジタルアシスタントの使用が大量に発生している中、コミュニティの精神的安定を維持するために実行されます。

さらに、この規則は国家安全保障を維持するための明確なコンテンツ制限を定めています。AIサービスは、噂を広めたり、暴力を奨励したり、ポルノを含んだりする過激なコンテンツを生成することを禁止されています。