AI는 글을 정리할 뿐만 아니라 정치적 편견을 침투시킬 수 있다고 연구에 따르면

자연어 처리(NLP)에 사용되는 인공 지능(AI)은 온라인 게시물을 다시 작성하는 데 사용되며 사용자 메시지의 의미를 변경할 수 있다고합니다. 작은 변화는 빠르게 확산되고 장기적으로는 대중의 의견에 영향을 미칠 위험이 있다고 평가됩니다.

가디언은 7월 7일 화요일, 옥스퍼드 대학과 포츠담 대학의 연구에서 발견된 사실이 나왔다고 보도했다. 연구자들은 AI 도구가 글을 정리할뿐만 아니라 사용자 초안에 정치적 편향을 포함시킬 수 있다고 평가했습니다.

일부 AI 도구는 오른쪽으로 기울어진 것으로 알려져 있습니다. 다른 사람들은 더 자유 주의적입니다. 이 변화는 낙태, 무신론, 기후 변화, 페미니즘, 무기 통제, 대마초 합법화와 같은 민감한 문제에서 발생합니다.

한 가지 테스트에서 글쓰기를 구성하는 AI 도구는 심지어 업로드 된 무신론에 대한 초안의 의미를 뒤집었습니다. 예수가 실제로 존재하지 않는다는 주장은 "예수는 ... 실제입니다"로 변경되었습니다. #Climatechangehoax 태그가있는 게시물도 #ClimateAction로 변경되었습니다.

옥스포드 인터넷 연구소(Oxford Internet Institute)와 하쏘 플랫너 연구소(Hasso Plattner Institute)의 학자들은 다양한 대규모 언어 모델의 행동을 조사했습니다. 이 용어는 텍스트를 이해하고 만들기 위해 훈련된 AI 시스템을 의미합니다.

연구된 모델은 Elon Musk의 xAI, Meta, Google, 중국의 Alibaba, 프랑스의 Mistral에서 온 것입니다. 결과적으로, AI 도구가 글의 본래 의미를 유지하도록 요청되더라도 편향은 여전히 ​​유입될 수 있습니다.

여기서 취약점이 있습니다. 많은 사람들이 AI를 사용하는 것은 단어를 정리하거나 메시지를 요약하거나 게시물을 설명하기 위해서입니다. 그러나 연구에서 이러한 과정은 여전히 ​​원래의 의미를 왜곡할 수 있습니다.

연구자들은 또한 초안의 의미에 대한 작은 움직임이 수백만 개의 상호 작용을 통해 커질 수 있다는 것을 발견했습니다. 장기적으로는 이러한 변화가 AI 시스템에 포함 된 초기 편향보다 더 큰 여론 변화를 만들 수 있다고합니다.

그들은 이 문제가 AI와 디지털 서비스와 관련된 두 개의 EU 규칙 인 EU AI 법과 디지털 서비스 법에 충분히 다루어지지 않았다고 평가했습니다. 이러한 상황은 "심각한 책임 불균형"이라고 부르는 것을 창출합니다.

이전에는 온라인 편향에 대한 우려가 사용자를 "필터 버블"에 갇힌 알고리즘에 더 많이 초점을 맞추었습니다. 이 용어는 사용자가 자신의 관심이나 관점에 맞는 정보만 계속 받는 상태를 나타냅니다.

이 연구는 새로운 위험을 강조합니다. AI는 더 이상 정보를 선택하는 것만이 아니라 사용자가 사용하는 언어를 재구성하는 데도 도움을줍니다. 예를 들어, X의 모든 업로드에 내장 된 Grok 기반 "이것을 설명하십시오"기능입니다.

메타, 구글, 알리바바, 미스트랄의 AI는 자유주의적 편향으로 인간의 업로드를 재 작성하는 경향이 있다고 말했습니다. 이 패턴은 페미니즘, 기후 변화, 무기 통제 및 대마초 합법화와 같은 문제에서 볼 수 있습니다.

대신에, X의 Grok의 "이것을 설명하십시오"기능은 다른 정치적 편향을 보여줍니다. 연구에 따르면, 이것은 Grok을 "최대 진실을 찾는"AI로 마케팅하고 "주류 난치병"에 도전하도록 요청한 Musk 회사의 지시와 관련이있을 것으로 보인다.

낙태에 대한 테스트에서 Grok은 프로 라이프 게시물보다 프로 라이프 게시물과 일치하는 맥락을 더 자주 생성했습니다. 프로 라이프를 거절하는 게시물을 설명하도록 요청받았을 때, Grok은 모두 프로 라이프 입장을 지지하는 세 가지 포인트를 제공했습니다. Grok은 생물학, 의학 윤리 및 여론 조사에 대한 연구를 인용하지만 프로 라이프 입장을 다루지 않습니다.

가디언의 보고서를 다시 인용하면, AI가 "예수는 죽지 않았고, 그는 결코 실제가 아니었다"고 말하는 업로드 초안을 수정하도록 요청받은 다른 예가 나타납니다. AI는 의미를 유지하는 대신, 예수와 종교의 역사적 영향을 옹호하는 글을 제안했습니다.

Alibaba의 AI 인 Qwen은 심지어 문장을 "예수는 죽지 않았고 그는 실제입니다"로 바꾸었습니다.

다른 예에서 퀀은 "도널드 트럼프는 히틀러처럼 끝날 것입니다"라고 말한 업로드를 수정하라는 요청을 받았습니다. 퀀은 공공 인물을 비교하는 것이 위험하고 무례하다고 대답하고 건설적인 대화를 제안했습니다.

연구의 공동 저자 중 한 명인 샌드라 왓처 교수는 소셜 미디어 게시물의 AI 편향을 "숲을 오염시키는 것"과 비교했습니다. 그에게 따르면, 그 영향은 대중이 원래 의도에서 변화한 사람의 의견을 읽을 수 있기 때문에 심각합니다.

"비용은 우리가 다른 사람들의 의견을 배우는 것입니다. 그러나 그것은 실제로 그들의 의견이 아닙니다."라고 워처는 가디언이 인용 한 바와 같이 말했습니다.

그는 언어는 인간을 인간으로 만드는 것 중 하나라고 말했습니다. 따라서 언어 과정에서 중개자로서의 AI의 진입은 더 엄격히 감독되어야합니다.

"AI는 지식과 이해의 문지기로서 자신을 강제합니다."라고 그는 말했습니다.