ジャカルタ-Googleは、人工知能(AI)システムであるGeminiで深刻な抜け穴を見つけることができる人に対して、最大20,000米ドル(約3億3,180万ルピア)を支払う準備ができています。このプログラムは、悪意のあるバグを見つけることができたセキュリティ研究者に報酬を与えるように設計された、AI専用の脆弱性報酬プログラム(VRP)スキームを通じて発表されました。
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者によって設定された限界を超えてハッカーが押し込むことができるかを見るためだけに、AIチャットボットを「中断」するのが好きでした。AIに大きな誤った答えを提供したり、システムに内部ルール違反を強制したりしようとする人もいます。しかし、今回、Googleはその行動を、その方法が本当に大きな影響を与える限り、お金を稼ぐ機会に変えます。Googleによると、求められているのは、ジェミニが求人書に食品処方箋を提供するなどの面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻なエクスプロイトです。たとえば、ハッカーがジェミニを介してユーザーのGoogleアカウントにアクセスしたり、内部AIの仕組みに関する機密情報を取得したりするバグ。この
この間、多くのユーザーは、開発者が設定した制限を超えてどこまで押し込むことができるかを確認するために、AIチャットボットを「邪魔」するのが好きでした。AIに大きな間違った答えを与えたり、システムに内部ルールを侵害させたりしようとする人もいます。しかし今回、Googleは、その方法が本当に大きな影響を与えている限り、この行動をお金を稼ぐ機会に変えました。
Googleによると、求められているのは、ジェミニに求人書に食べ物の処方箋を提供させるなどの単なる面白い間違いではなく、ユーザーやシステムのセキュリティを危険にさらす可能性のある深刻な取です。たとえば、ハッカーがジェミニからユーザーのGoogleアカウントにアクセスしたり、AIの内部的な仕組みに関する機密情報を取得したりできるバグ。
この脆弱性報酬AIプログラムは、人工知能エコシステムのセキュリティを強化するためのGoogleの取り組みの一環です。同社は、大きな影響を与えるエクスプロイトだけが最高の報酬に適格であると主張している。Google検索やジェミニアプリなどの主要サービスに影響を与えるような、本当に重大なケースの場合、報酬は20,000米ドル(約3億3,180万ルピア)に達する可能性があります。
この種のバグは、インターネット上のばかげた実験のようにバイラルになることはめったにありませんが、そのセキュリティはジェミニの評判と安定性にとってはるかに重要です。Googleは、検索結果にフィッシングリンクを挿入するなど、潜在的なAI操作からユーザーを保護することが最優先事項であると述べています。
このプログラムにより、Googleは、「ホワイトハット」ハッカーや倫理セキュリティ研究者が、悪意のある当事者によって悪用される前に、抜け穴を見つけて報告することにもっと積極的になることを望んでいます。この動きはまた、テクノロジーの巨人が、AIが安全で信頼性が高く、簡単に「侵入」されないことを保証することに真剣に取り組んでいることを示しています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
