DiscordがOpenAI、Google、Robloxとともに児童安全ツールプロバイダー組織を設立

ジャカルタ - セーフインターネットデーを記念して、Discordプラットフォームは多くのテクノロジー大手との最新のパートナーシップを発表しました。このパートナーシップは、業界を超えた非営利の財団を設立することに成功しました。

ロブストオープンオンライン安全ツール(ROOST)と呼ばれるこの組織は、デジタルセキュリティの課題に直面するように設計されています。ROOSTは、未成年のプラットフォームユーザーを保護するために使いやすい無料でオープンソースのツールを提供します。

ROOSTが提供するツールは、大言語(LLM)モデルを利用して、児童性的虐待(CSAM)の素材を検出、レビュー、報告することができます。このツールは、安全インフラストラクチャを強化し、ユーザーフレンドリーなプラットフォームを作成します。

「直接サポートを提供する専任の技術チームとともに、ROOSTは自分たちがいる組織と出会い、革新を続けながら強力な安全対策を統合するのを支援します」とDiscordは公式放送で述べています。

Discordによると、ROOSTは強力なセキュリティツールの開発における組織のニーズを減らすことができます。ROOSTが提供するオープンソースのツールとツールは、プラットフォーム開発に焦点を当てた中小企業や公益団体が利用できます。

ROOSTは、Discord、OpenAI、Google、Robloxなど、多くの企業によって構築されています。財団はまた、John S.とJames L. Knight Foundation、AI Collaborative、Patrick J. McGovern Foundation、Project Liberty Instituteによって設立されました。

ディスコードの法務責任者であるクリント・スミスは、財団内で重要な役割を果たしています。スミスはROOSTカウンシルを務め、Discordは創設パートナーとして従業員の資金、技術、専門知識に貢献します。