アルファベット株式会社AIチャットボットの使用と潜在的なセキュリティリスクについて従業員に思い出させる

ジャカルタ-グーグルとユーチューブの親会社であるアルファベット社は、バーズと呼ばれる独自のプログラムを含むチャットボットの使用と、世界中のプログラムのマーケティングについて従業員に警告しています。これは、この問題に精通している4人がロイターに語った。

Googleの親会社は、情報保護に関する長年のポリシーを引用して、人工知能(AI)チャットボットに企業秘密の資料を含めないように従業員に指示しています。

バーツやChatGPTなどのチャットボットは、人間のように聞こえ、生成人工知能を使用してユーザーと会話し、さまざまな質問に答えるプログラムです。人間のレビューアは会話を読み、研究者らは、同様のAIがトレーニング中にプログラムによって吸収されるデータを再生成できることを発見し、情報漏洩のリスクを高めることができます。

アルファベットはまた、チャットボットによって生成できるコンピュータコードを直接使用することを避けるようエンジニアに警告した、と報告書によって引用された一部の人々は述べた。

コメントの要請に応えて、同社はバーズが不要なコードアドバイスを提供する可能性があるが、プログラマーを支援していると述べた。Googleはまた、テクノロジーの限界について透明性を保つために取り組んでいると述べた。

これらの懸念は、GoogleがChatGPTと競合するために立ち上げたソフトウェアによるビジネス上の損失を回避するためにどのように取り組んでいるかを示しています。OpenAIとMicrosoft Corp.が支援するChatGPTとのGoogleの競争で危機にしているのは、数十億ドルの投資と、新しいAIプログラムからの広告とクラウドの収益の未計算です。

Googleの警戒は、企業にとっての習慣であるセキュリティ基準、つまりパブリックチャットプログラムの使用について従業員に警告することも反映しています。

ロイターが連絡した企業によると、サムスン、Amazon.com、ドイツ銀行など、世界中の多くの企業がAIチャットボットにセキュリティ対策を設定しています。 Appleはコメントの要請に応じなかったが、同様の措置をとったと伝えられている。

ネットワークウェブサイトFitchbowlが米国の大手企業を含む約12,000人の回答者を対象に実施した調査によると、専門家の43%が1月にChatGPTまたはその他のAIツールを使用し、しばしば上司に通知しませんでした。

2月、Googleはローンチ前にバーストをテストしていたスタッフに、同社の内部情報を提供しないように通知した。

現在、Googleは創造性の基盤として180カ国以上、40の言語でBardを展開しており、そのアラートには生成されたコード提案も含まれています。

Googleはロイターに対し、アイルランドデータ保護委員会と詳細な協議を行い、規制当局の質問に回答していると語った。

このような技術は、電子メール、ドキュメント、さらにはソフトウェア自体を生成し、これらのタスクを大幅にスピードアップすることを約束することができます。しかし、コンテンツには、誤った情報、機密データ、さらには小説「ハリーポッター」の著作権で保護されている引用さえある可能性があります。

6月1日に更新されたGoogleのプライバシー通知には、「バーツとの会話に機密情報を入力したり、機密情報を入力したりしないでください」と記載されていました。

一部の企業は、この種の懸念に対処するためのソフトウェアを開発しています。たとえば、Webサイトをサイバー攻撃から保護し、他のクラウドサービスを提供するCloudflareは、企業が特定のデータの流れをタグ付けして制限する機能を販売しています。

GoogleとMicrosoftは、ビジネス顧客に会話ツールをより高い価格で提供していますが、パブリックAIモデルにデータを吸収していません。BardとChatGPTのデフォルト設定は、ユーザーの会話履歴を保存することであり、ユーザーはそれを削除することを選択できます。

「企業はスタッフが公共のチャットボットを仕事に利用することを望まないことが重要です」と、Microsoftの消費者最高マーケティング責任者であるYusuf Mehdiは述べています。

「同社は保守的な姿勢をとっている」とMehdi氏は述べた。彼はまた、MicrosoftのBing無料チャットボットが会社のソフトウェアとどのように比較されているかを説明しました。「そこでは、私たちのポリシーはるかに厳しくなっています。

Microsoftは、スタッフが自分のものを含む公開AIプログラムに機密情報を含めることを禁止したかどうかについてコメントすることを拒否したが、そこにいた別の幹部はロイターに、その使用を個人的に制限していると語った。

CloudflareのCEOであるMatthew Prince氏は、チャットボットに機密の問題を入力することは、「博士課程の学生のグループにあなたのすべての個人記録にアクセスさせる」ようなものだと述べた。