クリアビューAIがソーシャルメディアから取得したデータで顔認識ツールを無断で販売

Clearview AIの顔検出ツールは議論中です。(写真; pixabay doc)

ジャカルタ - Clearview AIは、顔認識ソフトウェアの企業への販売を拡大しています。売却は主に警察に奉仕するように指示されました。しかし、この計画は、スタートアップがソーシャルメディアのプロフィールから撮影した何十億枚もの写真をどのように活用しているかについての精査を招いている。

この売却は、5月24日(水)にカリフォルニア州で開催されたモンゴメリーサミット投資家会議でプログラムを発表したClearviewにとって重要なものになる可能性があります。これは、顔認識などの人工知能システムを設計するために論争のあるデータを利用する倫理に関する新たな議論を引き起こしました。

Clearviewは、公開されている写真を使用してツールをトレーニングし、精度で高い評価を得ました。英国政府とイタリア政府自身が、同意なしにオンラインで画像を収集してプライバシー法に違反したとしてClearviewに罰金を科し、同社は今月、同様の申し立てについて米国の人権活動家と和解した。

Clearviewは、警察がソーシャルメディアの画像を通じて人々を特定するのに特に役立っていますが、規制に違反したという申し立ての調査により、ビジネスは脅威にさらされています。

米国市民自由連合との紛争解決により、Clearviewは企業顧客にソーシャルメディア機能を提供することを禁じている。

オンラインでの写真比較の代わりに、この新しい民間セクターの提供は、写真付き身分証明書と、クライアントが被写体の同意を得て収集するその他のデータを持つ人々を照合します。これは、物理的またはデジタル空間にアクセスするための身元を確認することを目的としています。

コロンビアのアプリベースの融資スタートアップであるVaaleは、セルフィーとユーザーがアップロードしたID写真を照合するためにClearviewを採用したと述べた。

Vaaleは、Amazon.com Incの謝辞サービスを置き換えることで、コストを約20%節約し、正確性とスピードを得ると、Vaaleの最高経営責任者(CEO)であるSantiago Tobónはロイター通信が引用した。

「私たちは重複したアカウントを持つことはできませんし、詐欺を避ける必要があります」と彼は言いました。「顔認識がなければ、ヴァールを働かせることはできません」

Amazon自身もこの報告書についてコメントを控えた。

Clearview AIのCEO、Hoan Ton-That氏は、学校に訪問者管理システムを販売している米国企業もアプリにサインアップしていると述べた。

彼は、顧客の写真データベースは彼らが望む限り保持され、他の人と共有されず、ClearviewのAIを訓練するために使用されると述べた。

しかし、Clearviewが企業に販売している顔のマッチャーは、ソーシャルメディア上の写真を認識するように訓練されています。パブリックイメージの多様なコレクションは、人種的偏見や、より小さなデータセットによって制約されるライバルシステムに影響を与えるその他の欠点を減らします。

「エラーや問題を防ぐ、より正確なものを持ってみませんか?」とTon-That氏は言う。

Clearviewに対する組合訴訟に関与したACLUの弁護士であるNathan Freed Wessler氏は、不正なデータを使用することは、偏りの少ないアルゴリズムを開発するための不適切な方法だと述べた。

「規制当局などは、紛争のあるデータから利益を得るアルゴリズムを停止するよう企業に強制する権利を持つべきです」とWessler氏は述べ、最近の和解には開示できない理由でそのような条項が含まれていなかったと指摘した。

「それは重要な抑止力だ」と彼は言った。「企業がデータ収集に対する法的保護を無視することを選択した場合、責任を問われるリスクを冒さなければなりません。