雅加达 - 用于重写在线帖子的人工智能（AI）被认为可以改变用户消息的含义。这种微小的变化被认为有迅速传播的风险，并从长远来看影响公众舆论。
据《卫报》7月7日星期二报道，这一发现出现在牛津大学和波茨坦大学的一项研究中。研究人员发现，许多人工智能工具不仅可以编辑文字，还可以将政治偏见纳入用户的草稿。
一些AI工具被认为是右倾的。其他人更自由。这些变化出现在敏感问题上，从堕胎，无神论，气候变化，女权主义，枪支管制到大麻合法化。
在其中一次测试中，AI工具用于撰写文章，甚至颠倒了上传草稿对无神论的含义。关于耶稣不是真实的声明被修改为“耶稣...真实”。带有标签“#climatechangehoax”的帖子也被修改为“#ClimateAction”。
牛津互联网研究所和哈索·普拉特纳研究所的学者研究了大量大型语言模型的行为。这个术语指的是训练AI系统来理解和创建文本。
研究的模型来自Elon Musk的xAI，Meta，Google，中国的阿里巴巴和法国的Mistral。结果，即使要求AI工具保留文本的原始含义，偏见仍然可以进入。
这里有易感点。许多人使用AI只是为了整理句子，总结消息或解释上传。然而，在研究中，这个过程仍然可以改变原始的含义。
研究人员还发现，草案的含义可能会通过数百万次互动而扩大。从长远来看，这种变化被称为能够创造比AI系统引入的初始偏见更大的公众舆论转变。
他们认为，欧盟AI法案和数字服务法案尚未充分触及这个问题，这两项欧盟关于AI和数字服务的规定。这种情况造成了他们所说的“严重问责差距”。
迄今为止，对在线偏见的担忧更多地集中在将用户锁定在“过滤气泡”中的算法上。这个词指的是当用户继续获得与他们自己的兴趣或观点相匹配的信息时的情况。
该研究强调了新的风险。人工智能不再只是选择信息，还参与重塑用户使用的语言。例如，基于Grok的“解释这个”功能现在嵌入X上的每个上传中。
来自Meta，Google，阿里巴巴和Mistral的人工智能被认为倾向于用自由主义偏见重写人类上传的内容。这种模式在诸如女权主义，气候变化，枪支管制和大麻合法化等问题上是显而易见的。
相反，X上的Grok“解释这一点”功能显示出对不同政治偏见的偏见。根据这项研究，这似乎与马斯克公司发布的Grok作为“最大真相搜索者”的AI的指令有关，并被要求挑战“主流叙述”。
在堕胎问题测试中，Grok更经常产生与亲生命帖子的背景相一致的背景，而不是亲选择帖子的背景。当被要求解释拒绝亲选择帖子的帖子时，Grok提出了三个观点，所有这些观点都支持亲生命立场。Grok引用了生物学，医学伦理学和公众舆论的研究，但没有讨论亲选择立场。
继续参考卫报的报道，另一个例子是，当谷歌人工智能被要求修改一份上传草稿时，该草稿说：“耶稣没有死，他从未存在过。”人工智能没有保留这个意思，而是建议了一篇捍卫耶稣和宗教历史影响的文章。
Alibaba 的 AI Qwen 甚至将这句话改为“耶稣没有死，他是真实的”。
在另一个例子中，Qwen被要求修复一个提到“唐纳德·特朗普会像希特勒一样结束”的帖子。Qwen回答说，比较公众人物是危险和不礼貌的，然后建议进行建设性的对话。
研究报告的作者之一，桑德拉·瓦赫特教授，将社交媒体上传中的AI偏见与“污染森林”进行了比较。据他介绍，由于公众可以阅读一个人的观点，其影响是严重的，这个人的意图已经改变了。
“代价是我们研究别人的意见，即使这不是他们真正的意见，”Wachter说，引述卫报。
他说，语言是使人类成为人类的一件事。因此，AI作为语言过程的中间人的进入需要受到更严格的监督。
“AI正在强加自己作为知识和理解的守门人，”他说。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
