雅加达 - 接近2024年的总统选举周期,美国正面临着一种日益复杂的选举欺诈形式的新挑战,使用Deepfakes,这要求选民获得新技能来区分原始和假的。
2月27日,美国参议院情报委员会主席马克·华纳(Mark Warner)表示,与2020年之前的选举相比,美国对2024年总统大选的选举欺诈没有准备好。
这种准备情况的下降主要是由于过去一年中美国Deepfake的使用量增加。根据身份验证服务SumSub的数据,北美的Deepfakes增加了1.740%,到2023年,全球发现的Deepfakes数量增加了10倍。
Deepfakes威胁的一个具体例子是,新汉普希尔州居民报告称,他们收到了自动通话,美国总统乔·拜登(Joe Biden)的选票告诉他们不要在1月23日的州初选中投票。
这一事件引发了美国监管机构禁止在自动电话欺诈中使用AI声音的行动,使其根据美国的电话营销法非法。
尽管采取了法律措施,但欺诈者仍在继续寻找漏洞。当美国为3月5日的超级火星报做准备时,人们对人工智能和Deepfakes产生的虚假信息的担忧日益加剧。
SumSub的AI和机器学习主管Pavel Goldman Kalaydin更好地了解投票者如何做好准备以识别Deepfakes和处理Deepfakes身份欺诈情况。
Kalaydin强调了投票者在查看社交媒体上消耗的内容和验证信息来源时保持警惕的重要性。他还给出了一些在Deepfakes中必须注意的典型迹象,例如不寻常的动作,人工背景和照明变化。
虽然对Deepfakes的理解有所增加,但Kalaydin警告说,这项技术将继续快速发展,这使得在没有特殊检测技术的情况下,人眼发现它变得更加困难。
最大挑战之一是Deepfake的代相和分布。轻松访问人工智能技术为虚假内容的传播打开了大门,而缺乏法律法规使其难以阻止其在线传播。
为了克服这一问题,Kalaydin建议社交媒体平台对AI或Deepfakes内容进行自动检查,并利用Deepfakes检测技术确保内容的真实性。
与此同时,世界各地的政府开始采取行动。例如,印度发布了指导方针,要求本地科技公司在发布不可靠的AI工具之前获得批准。在欧洲,欧盟委员会为在该地区运营的平台制定了AI错误信息指南。
随着美国为2024年大选做准备,通过deepfakes保护选民免受日益复杂的选举欺诈的努力应该是政府、社交媒体平台和整个社会的首要任务。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
