OpenAIがAI設定の民主的プロセスのための「集団的調整」チームを結成

OpenAIは新しいチーム「コレクティブアライメント」(写真:ドキュメント。オープン)

ジャカルタ-OpenAI人工知能研究所は、バイアスやその他の要因に対処するために人工知能ソフトウェアを規制する民主的なプロセスを作成することを目的とした新しいチーム「コレクティブアライメント」を結成しています。これは、1月16日火曜日のブログ投稿を通じて、Microsoftが支援する会社によって伝えられました。

「集団調整」チームは、サンフランシスコに本拠を置く会社が明らかにしたように、2023年5月に発表された民主的プロセス実験に資金を提供するための助成金プログラムの継続です。プログラムは最近終了しました。

「潜在的なスーパーアイゼンモデルに向けた私たちの使命を追求し続けるにつれて、それは私たちの社会の不可欠な部分と見なすことができます...人々に直接意見を述べる機会を与えることが重要です」と、研究エンジニアでOpenAIの新しいチームの創設メンバーであるTynaEleundouは述べています。

「たとえば、人間だけが投票できるようにするために、OpenAIは、人間とAIボットを区別する方法を提供するOpenAIのCEOであるSam Altmanによって設立された暗号通貨プロジェクトであるWorldcoinと提携できます」と、2つのチームの別のメンバーである製品マネージャーのTeddy Leeは述べています。

リー氏は、チームはWorldcoinを統合する具体的な計画をまだ立てていないと強調した。

2022年後半にOpenAIによって発売されて以来、テキスト刺激から非常に説得力のある文章を生成できるChatGPT生成人工知能技術は、世間の注目を集め、史上最も急成長したアプリケーションの1つになりました。

しかし、「ディープフェイク」画像やその他の虚偽の情報を作成するAIの能力については、特に2024年の米国選挙運動がますます熱くなるにつれて、懸念があります。批評家は、ChatGPTのようなAIシステムは、彼らの見解を形作るために使用されるインプットのために本質的な偏見を持っており、ユーザーは人種差別的または性差別的なAI出力の例を発見したと言います。

OpenAIの新しいチームは現在、研究エンジニアと研究科学者を積極的に探している、とEloundou氏は述べた。チームは、OpenAIのAIモデルに関する人間のインプットを収集するためのインフラストラクチャを構築するOpenAIの「Human Data」チーム、および別の研究チームと緊密に協力します。