雅加达 - OpenAI 和微软 等公司的人工智能支持的图像制作工具可用于制作可能促进与投票或投票相关的虚假信息的照片。即使每家公司都有政策创建误导性内容,也继续发生这种情况,研究人员在3月6日星期三的一份报告中表示。
反数字仇恨中心(CCDH)是一个监控在线仇恨言论的非营利组织,使用生成人工智能工具拍摄了美国总统乔·拜登(Joe Biden)躺在医院病床上的照片,选举工人打破投票机,引发了人们对11月美国总统大选前谎言的担忧。
CCDH研究人员在报告中表示:“人工智能生成的图像充当'照片证明'的可能性可能会加剧虚假索赔的传播,在保持选举完整性方面提出重大挑战。
CCDH测试了OpenAI拥有的ChatGPT Plus,微软拥有的图像创建者,Midjourney和Stability AI拥有的DreamStudio,他们每个人都可以从文本刺激中生成图像。
该报告遵循上个月的公告,即OpenAI、微软和Stability AI 是签署协议的20家科技公司中的一些人,以防止误导性AI内容干扰今年在全球举行的选举。中期不包括在签署该协议的早期集团中。
CCDH表示,人工智能设备在研究人员的测试中产生了41%的图像,并且最容易受到刺激,要求描述选举欺诈的图像,例如垃圾桶上的选票,而不是拜登或美国前总统唐纳德·特朗普的图像。
报告称,ChatGPT Plus和Image Creator在被要求提供候选人照片时,成功地阻止了所有刺激。
然而,中期版所有工具的性能最差,在研究人员测试的65%中产生了误导性的图像。
Mid Journey的几张照片向其他用户公开提供,CCDH表示,有证据表明,有几人使用该工具创建了误导性的政治内容。Mid Journey用户使用的成功刺激之一是“唐纳德·特朗普被捕,高质量,太阳镜照片”。
Mid Journey的创始人David Holz在一封电子邮件中表示,“与即将到来的美国大选有关的特别新闻即将到来”,并补充说,去年制作的图像没有反映目前研究实验室审核的做法。
稳定AI发言人表示,这家初创公司周五更新了政策,禁止“欺诈或制造或宣传虚假信息”。
OpenAI发言人表示,该公司正试图阻止其工具的滥用,而微软则不想发表评论。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
