AIによるコンテンツモデレーションシステムの強化、Robloxは毎日5,000のサーバーを閉鎖

写真:Roblox

ジャカルタ - 2026年3月のSafety Snapshotレポートで、Robloxはコミュニティ基準に違反する1日あたり約5,000のゲームセッションを閉鎖することに成功したと報告しました。

この成果は、AIベースのモデレーション技術を使用したセキュリティシステムのおかげで達成され、1つのシーンでコンテンツをリアルタイムかつ徹底的に監視することができます。

同社は、最新のマルチモーダルモデレーションシステムは、アバター、テキスト、3Dオブジェクトなどの要素を同時に分析することで、違反を検出できることを明らかにしました。

従来のモデレーションシステムは、1つのオブジェクトのみを評価するのに対し、この新しいテクノロジーはシーン全体を文脈的に読み取ります。1つのゲームセッションで繰り返し違反が検出された場合、システムはゲーム全体をオフにすることなくサーバーをすぐにシャットダウンします。

将来、同社は、このシステムが100%のプレイ時間を監視でき、誤検出(誤検出)を最小限に抑えるための精度を向上させ続けることを目標としています。

モデレーションを強化することに加えて、Robloxはクリエイターダッシュボードの更新を通じてクリエイターの透明性を高めています。この新しい機能は、ユーザーの嫌がらせ、差別、性的コンテンツなど、問題のあるユーザー行動のために閉鎖されたサーバーの数を監視できるように、毎日のグラフです。

これにより、クリエイターはコミュニティに広範囲に影響を与える前にすぐに行動を起こすことができます。クリエイターはまた、カスタムエモート、アバター編集ツールなどのゲーム機能を見直して、不適切なコンテンツの出現を防ぐために調整が必要かどうかを判断できます。

一方、RobloxはKeyword StudiosとRiot Games、および研究心理学者Rachel Kowertとともに、「DLC Leadership」認定プログラムを開始し、オンラインモデレーター、コミュニティマネージャー、ゲーム業界のクリエイターのためのトレーニング基準の欠如を埋めることを目指しています。