AI로 콘텐츠 모더레이션 시스템 강화, Roblox 매일 5,000 개의 문제 서버를 닫습니다.

자카르타 - 2026년 3월 안전 스냅샷 보고서에서 Roblox는 커뮤니티 표준을 위반하는 하루에 약 5,000개의 게임 세션을 성공적으로 종결했다고보고했습니다.

이 성과는 인공 지능(AI) 기반의 모더레이션 기술을 사용하여 보안 시스템을 통해 달성되었으며, 한 장면에서 실시간으로 전체 콘텐츠를 모니터링 할 수 있습니다.

회사는 최신 다중 모드 모더레이션 시스템이 아바타, 텍스트 및 3D 개체와 같은 요소를 동시에 분석하여 위반을 감지 할 수 있다고 밝혔습니다.

단일 객체만 평가하는 전통적인 모더레이션 시스템과는 달리, 이 새로운 기술은 전체 장면의 맥락을 읽습니다. 한 게임 세션에서 반복적 인 위반이 감지되면 시스템은 전체 게임을 종료하지 않고 서버를 즉시 종료합니다.

향후 이 회사는 시스템이 최대 100%의 플레이 시간을 모니터링 할 수 있도록 목표로하고 있으며, 동시에 오류 감지 (거짓 양성)를 최소화하기 위해 정확도를 계속 향상시키고 있습니다.

억제력을 강화하는 것 외에도 Roblox은 크리에이터 대시 보드 업데이트를 통해 크리에이터에게 투명성을 높입니다. 이 새로운 기능은 사용자의 괴롭힘, 차별, 성적 콘텐츠 등의 문제 행동으로 인해 폐쇄 된 서버 수를 모니터링 할 수 있습니다.

따라서 크리에이터는 커뮤니티에 더 넓은 영향을 미치기 전에 즉시 조치를 취할 수 있습니다. 크리에이터는 또한 게임 내의 기능, 예를 들어 사용자 정의 에모티콘, 아바타 편집 도구를 검토하고 부적절한 콘텐츠의 출현을 방지하기 위해 조정이 필요한지 여부를 결정할 수 있습니다.

한편, Roblox는 Keyword Studios와 Riot Games, 그리고 연구 심리학자 Rachel Kowert와 함께 온라인 모디 터, 커뮤니티 매니저 및 게임 산업의 창작자를위한 교육 표준 부족을 채우기위한 "DLC 리더십"인증 프로그램을 시작했습니다.