OpenAI、最新の人工知能モデルのセキュリティ計画を公開

ジャカルタ - Microsoftの支援を受ける人工知能企業OpenAIは、同社の最先端モデルでセキュリティに対処するためのフレームワークを詳細に発表した。これには、12月18日月曜日にウェブサイトで公開された計画に概要が示されている、安全保障に関する決定を覆す権限を評議会に与えることが含まれている。

OpenAI は、サイバーセキュリティや核の脅威などの特定の分野で安全であるとみなされる場合にのみ、最新テクノロジーを導入します。同社はまた、セキュリティ報告書を検討し、会社の幹部や取締役会に報告するための諮問グループを設立した。決定を下すのは経営陣ですが、取締役会は決定を覆す権限を持っています。

1 年前に ChatGPT が発表されて以来、人工知能の潜在的な危険性が、人工知能の研究者と一般の人々の両方にとって大きな懸念事項となっています。生成人工知能技術は、詩やエッセイを書く能力でユーザーを驚かせましたが、偽情報を広めたり人間を操作したりする可能性があるため、安全保障上の懸念も引き起こしています。

4月、人工知能業界のリーダーと専門家のグループは、社会への潜在的なリスクを理由に、OpenAIのGPT-4より強力なシステムの開発を6か月遅らせるよう求める公開書簡に署名した。

ロイター／イプソスが５月に実施した世論調査では、米国人の３分の２以上が人工知能の悪影響の可能性を懸念しており、６１％が人工知能が文明を脅かす可能性があると考えていることが分かった。