유럽의 메타의 AI 기반 스마트 안경 사용자는 유럽 연합 (EU) 이외의 지역의 모더레이터에게 친밀한 비디오 및 민감한 금융 정보를 포함하여 개인 녹화를 공유 할 위험이 있다고 보고되었습니다. 이 발견은 개인 정보 보호, 사용자 동의 및이 지역의 엄격한 데이터 보호 규칙 준수에 대한 심각한 질문을 불러 일으켰습니다.
스웨덴 언론 Svenska Dagbladet가 수행한 조사에 따르면 케냐의 AI 주석 작업자는 매우 민감한 녹화를 검토했습니다. 일부 중재자들은 욕실에있는 사람들의 녹화를 보거나 성관계를하는 것을 보았다고 말했습니다. 또한 신용 카드 번호 및 기타 금융 데이터를 실수로 캡처하는 녹화도 있습니다.
이에 포함된 장치에는 사용자가 주변 환경을 녹화하거나 내장 AI 조수를 통해 질문을 할 수 있도록하는 Ray-Ban Meta Smart Glasses 모델이 포함됩니다.
이 기능을 활성화하려면 사용자는 인간이 데이터를 검토할 수 있도록 허용하는 약관에 동의해야 합니다. 이러한 주석 프로세스는 라벨링된 오디오 및 비디오 데이터에 의존하는 대규모 언어 모델 및 시각 AI 시스템을 훈련하는 데 필요합니다.
문제는 많은 사용자가 개인 데이터가 얼마나 쉽게 손을 넘어갈 수 있는지 인식하지 못할 수 있다는 것입니다. 보고서는 검토 된 자료의 대부분이 모더레이터가 상당히 압박감을 느끼는 것으로 묘사되는 조건에서 일하는 나이로비에서 끝났다고 말했습니다.
유럽 규제 맥락에서 이러한 관행은 개인 정보가 어떻게 처리되고 어디로 전송되는지에 대한 투명성을 요구하는 데이터 보호 규칙과 직접 관련이 있습니다. 특히 유럽 연합 외부로 전송되는 경우.
이러한 웨어러블 장치의 개인 정보 보호 정책은 쉽게 접근 가능하고 이해하기 쉽지 않다고 말했습니다. 그 안에는 민감한 콘텐츠가 자동 시스템과 사람에 의해 검토 될 수 있다고 명시되어 있습니다. 그러나 개인 정보를 공유하지 않는 책임은 결국 사용자에게 있습니다.
이것이 기술적으로 현대적인 AI의 역설입니다. 시스템을 더 똑똑하고 상황에 맞게 만들려면 회사는 실제 데이터가 필요합니다. 그러나 실제 세계는 알고리즘 훈련의 재료가 아니기 위해 의도되지 않은 친밀한 순간, 재정적 세부 사항 및 삶의 조각으로 가득합니다. 사용 약관에 대한 "동의"를 클릭하면 수천 킬로미터 떨어진 중재자의 작업 공간에서 개인 거실까지의 긴 다리를 만들 수 있습니다.
이 사건은 웨어러블 기반의 AI 개발에서 윤리적 도전에 다시 초점을 맞추었습니다. 얼굴에 장착 된 카메라는 편안함과 정교함을 제공하지만 또한 눈에 보이지 않는 감시의 잠재력을 창출합니다. 기기가 몸과 더 밀접해지는 시대에 개인 경험과 기계 학습 데이터 사이의 경계는 점점 더 얇아지고 있습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
