자이르 - 인공 지능 (AI) 회사의 직원 및 전직 직원 그룹, Microsoft가 지원하는 OpenAI와 Alphabet의 Google DeepMind를 포함하여 6 월 4 일 화요일, 발전하는 AI 기술이 야기하는 위험에 대해 우려를 표명했습니다.
11명의 오픈AI 직원과 전직 직원, 그리고 구글 딥마인드 직원과 전직 직원이 쓴 공개 서한을 통해, 그들은 AI 회사의 재정적 동기가 효과적인 감독을 방해한다고 말했습니다.
"우리는 주문형 기업 관리 구조가 이것을 바꾸기에 충분하다고 믿지 않습니다."라고 편지가 계속되었습니다.
이 서한은 또한 잘못된 정보의 확산에서 독립적 인 AI 시스템의 손실에 이르기까지 통제되지 않은 AI의 위험을 경고하고 있으며, 이는 "인류의 멸종"을 초래할 수 있습니다.
연구자들은 오픈AI와 마이크로소프트를 포함한 회사의 이미지 제작자의 예를 발견했습니다. 이는 투표와 관련된 정보가없는 사진을 만듭니다. 그러나 그러한 콘텐츠를 금지하는 정책이 있습니다.
이 문서는 AI 회사가 시스템의 능력과 한계에 대해 정부와 정보를 공유하는 데 "약한 의무"가 있다고 말했습니다. 또한 이 회사들은 자발적으로 정보를 공유하는 데 신뢰할 수 없다고 덧붙였다.
이 개방서는 인간처럼 빠르고 저렴하게 텍스트, 이미지 및 오디오를 생성할 수 있는 생성형 AI 기술과 관련된 보안 문제를 언급한 최신 서한입니다.
그 그룹은 AI 회사가 현재 직원과 이전 직원이 위험에 관한 우려를 표현하고 비판을 금지하는 기밀 유지 계약을 적용하지 못하도록 돕도록 촉구했습니다.
OpenAI의 주장
Sam Altman이 이끄는 회사는 5월 30일 목요일, 인터넷 전반에 "사기 활동"을 위해 자율적 인텔리전스 모델을 사용하려는 다섯 가지 숨겨진 영향 작전을 방해했다고 말했습니다.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
