AI 난잡성 차단! 유럽 연합은 AI로 만든 아동 학대 이미지에 대한 강력한 금지를 준비합니다.

유럽 연합 (EU)은 아동 성폭행 사진을 생성하는 인공 지능 관행을 금지하기 위해 첫 번째 법적 조치를 취하기 시작했습니다. 유럽 연합 회원국 정부는 3 월 13 일 금요일 이러한 관행이 블록의 주요 AI 규정에서 공식적으로 금지 된 활동으로 포함되도록 제안했습니다.

이 제안은 EU AI 법안, 2년 전 유럽 연합이 제정한 세계에서 가장 포괄적인 인공 지능 규칙의 법적 틀에 아동 성폭력 자료를 생성할 수 있는 인공 지능 AI를 포함시킬 것입니다.

이러한 조치는 AI 시스템에 의해 생성 된 암시적 성적 콘텐츠에 대한 글로벌 우려가 증가함에 따라 발생했습니다. 이는 생성 기술로 만들 수있는 친밀한 딥 페이크를 포함합니다. 다양한 국가의 규제 당국은 이러한 기술이 디지털 착취를 확대하고 법 집행을 어렵게 할 수 있다고 평가했습니다.

엘론 머스크가 소유한 회사의 AI 챗봇이 만든 성적 콘텐츠에 대한 보고서가 나오면서 엘론 머스크가 소유한 회사의 AI 챗봇인 Grok이 xAI가 소유한 AI 회사에 의해 개발되었으며 X 소셜 미디어 플랫폼과 통합되었습니다.

유럽의 많은 기술 규제 당국은 현재 기술의 잠재적 오용을 조사하고 있습니다. 영국, 아일랜드, 스페인의 감독 당국은 유럽 연합 규제 당국과 함께 Grok에 의해 발생한 것으로 의심되는 성 딥페이크 사건을 조사하고 있습니다.

새로운 금지안은 공식적으로 채택되기 전에 유럽 의회의 승인을 받아야 합니다. 의회 의원들은 가까운 장래에 유사한 제안에 대해 투표할 예정입니다.

양측이 동일한 접근 방식에 동의하면 다음 단계는 유럽위원회와 협상하여 변경 사항을 기존의 AI 법적 틀에 포함시키는 것입니다.

토론은 격렬한 것으로 예상된다. 유럽위원회는 이전에 기술 혁신을 장려하기 위해 AI 규칙의 일부를 완화하기 위해 제안했습니다. 이러한 조치는 많은 주요 기술 회사와 기업에 의해 지원되었지만, 이러한 정책이 주요 기술 회사의 이익을 너무 많이 조정한다고 평가하는 시민 사회 단체와 개인 정보 보호 단체의 비판을 받았습니다.

분석가들은 이러한 규칙 변경에 대한 입법 및 협상 과정이 새로운 규칙이 실제로 시행되기까지 약 1년이 걸릴 것으로 예상하고 있습니다.

이 현상은 현대적인 생성 기술의 역설을 보여줍니다. 시를 쓰거나 음악을 만들거나 과학 연구를 도울 수있는 동일한 기계는 또한 매우 파괴적인 시각적 조작을 만들기 위해 사용될 수 있습니다. 컴퓨터 과학 언어로, 알고리즘은 도덕적이지 않습니다. 그것은 단지 데이터의 패턴을 극대화합니다. 도덕성은 항상 규칙을 작성하는 사람에게서 온다.