無意識に、AIメガネユーザーのプライベートビデオが海外のモデレーターによって見られる可能性があります

ユーザーが周囲の環境を記録できるRay-Ban Meta Smart Glasses(写真:x @hndailydigest)

ヨーロッパのメタのAIベースのスマートグラスユーザーは、EU域外で親密なビデオや機密性の高い財務情報を含む個人記録をモデレーターに共有する危険があると報告されています。この調査結果は、プライバシー、ユーザーの同意、およびこの地域の厳しいデータ保護規則への遵守について深刻な疑問を投げかけます。

スウェーデンのメディアであるSvenska Dagbladetが実施した調査によると、ケニアのAIアノテーション作業員は非常に機密性の高い録画をレビューしたことが明らかになりました。一部のモデレーターは、裸の状態で、バスルームにいる人や性的行為をしている人々のビデオを見たことを認めた。さらに、クレジットカード番号やその他の財務データを誤ってキャプチャしたビデオもあります。

対象となるデバイスには、ユーザーが周囲の環境を記録したり、組み込みのAIアシスタントを通じて質問したりできるRay-Ban Meta Smart Glassesモデルが含まれます。

この機能を有効にするには、ユーザーは、人間によるデータレビューを許可する条件に同意する必要があります。アノテーションプロセスは、ラベル付きオーディオおよびビデオデータに依存する大規模言語モデルと視覚AIシステムをトレーニングするために必要です。

問題は、多くのユーザーが自分の個人データがどの程度渡される可能性があることに気づいていない可能性があることです。報告書によると、レビューされた資料のほとんどは、モデレーターがかなり圧迫された状況で働いていたナイロビで終わりました。

欧州規制の文脈では、この慣行は、EU域外に転送される場合、特に個人情報の処理方法とデータが送信される場所に関する透明性を義務付けるデータ保護規則に直接触発されています。

このウェアラブルデバイスのプライバシーポリシーは、アクセスしやすく理解しにくいと言われています。そこには、機密性の高いコンテンツが自動システムと人間によってレビューされることが記載されています。しかし、個人情報を共有しない責任は、最終的にはユーザーに課せられます。

技術的には、これが現代のAIの矛盾です。システムをよりスマートでコンテキストに沿ったものにするには、企業は現実世界のデータが必要です。しかし、現実世界は、アルゴリズムのトレーニング素材になることを意図したことがない親密な瞬間、財務の詳細、人生の断片でいっぱいです。使用条件の「同意」をクリックするたびに、何千マイルも離れたモデレーターの作業デスクに、居心地の良いリビングルームから長い橋を渡ることができます。

このケースは、ウェアラブルベースのAI開発における倫理的課題を再び強調しています。顔に装着されたカメラは、快適さと洗練さを提供しますが、目に見えない監視の可能性も生み出します。デバイスが身体と統合される時代、個人的な経験と機械学習データの境界はますます薄くなっています。