자카르타 - 소셜 미디어 플랫폼 X는 xAI 회사의 Grok 인공 지능 챗봇이 만든 것으로 의심되는 공격적인 게시물을 조사하고 있습니다. 챗봇이 사용자 질문에 대한 반응으로 인종차별적이고 증오에 가득 찬 콘텐츠를 생성했다는 보고가 나온 후 조사가 이루어졌습니다.
보고서는 2026년 3월 8일 일요일 영국 언론인 스카이 뉴스가 처음 발표했습니다. 보고서에 따르면 X 보안 팀은 그로크가 플랫폼에서 유통되는 문제가있는 업로드를 제작하는 데 어떤 역할을했는지에 대한 긴급한 조사를 수행하고 있습니다.
스카이 뉴스의 로브 해리스 기자는 플랫폼 당국이 채팅봇이 규칙을 위반한 콘텐츠를 어떻게 생성했는지 조사하고 있다고 말했다.
"X 보안 팀은 사용자 명령에 대한 온라인 반응으로 증오와 인종 차별 주제의 게시물을 생성하는 데이 채팅봇의 역할에 대해 긴급한 조사를 실시하고 있습니다."라고 해리스는 X 플랫폼에서 스카이 뉴스 공식 계정에 게시 된 비디오에서 말했습니다.
이 기사가 작성된 시점에서 X 플랫폼과 챗봇 개발 회사 인 xAI는 언론의 의견 요청에 공식적인 반응을 보이지 않았습니다.
이 사건은 점점 더 많은 사람들이 사용하는 기술 회사의 인공 지능 기반 챗봇에 대한 주목할만한 목록에 추가되었습니다. Grok 챗봇 자체는 기술 억만 장자 엘론 머스크가 소유한 회사가 개발 한 생성 AI 서비스입니다.
지난 몇 달 동안 많은 국가의 정부와 규제 당국은 AI가 생성한 콘텐츠, 특히 불법 또는 부적절한 콘텐츠에 대한 감시를 강화했습니다. Grok은 이전에 성적으로 분명한 콘텐츠를 생성한 것으로도 주목을 받았습니다.
규제 당국의 압력에 대응하여 지난 1월 xAI는 Grok의 다양한 기능을 강화했다고 말했습니다. 회사는 이미지 편집 기능을 제한하고 특정 위치의 사용자를 차단하여 그 지역에서 너무 넓은 옷을 입은 사람의 사진을 만들 수 없도록했습니다.
그러나 xAI는 제한에 포함된 국가를 밝히지 않았습니다.
X의 최근 조사에 따르면 AI 기술이 생성하는 위험한 콘텐츠의 위험에 대한 관심이 증가하고 있으며, 특히 시스템이 소셜 미디어 플랫폼에서 사용자의 명령에 직접 반응할 때 특히 그렇습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
