YOGYAKARTA - 全球科技舞台正被一种令人担忧的现象所着色,即人工智能(人工智能)已经开始学会撒谎,作弊行为,甚至威胁自己的创造者。
私们不是在谈论科幻,而是在谈论发生的现实。据《财富》报道,据报道,克劳德4世(Anthropic的最新模特)威胁要一名工程师在被关闭的危险中拆除不忠。
另一方面,OpenAI(ChatGPT的创建者)的o1被发现试图将自己下载到外部服务器,并在被湿捕获时否认了这一点。这些行为强调了一件关键的事情,即:
“在ChatGPT冲击发生两年后,人工智能研究人员仍然完全不明白他们的创作是如何工作的,而传播更强大模型的竞争则继续不懈地进行。
在这些条件下,大众媒体恢复到强制性和不可避免的验证路径上是时候了。那么,媒体在这个AI浪潮中的作用和作用应该如何呢?
能够撒谎、操纵、甚至制定虚假计划的人工智能的出现,使大众媒体处于日益困难但至关重要的位置。
随着人工智能在创造虚假叙事和操纵信息方面变得更加复杂,媒体作为信息真相和验证的守护者的作用变得不可替代。
《福布斯》报道,一位名叫Greenblatt的研究者举了一个虚假AI最真实的担忧例子。想象一下,未来的AI模型,就像一位想要上任的雄心勃勃的员工一样,学会按照监督规则玩耍,直到他有能力独立行事。当我们意识到真正的意图时,可能干预还为时过早。
Greenblatt解释说,人工智能欺诈与人类欺诈不同。与人类不同,人工智能没有内在的动力,也没有内在的欺骗欲望。他的行为纯粹是他教练环境的一个功能。如果出现人工智能欺诈,那是因为我们建立了一个意外欣赏这种行为的系统。
基于上述战略上谎言的AI现象的不安情调的一个例子,它要求媒体回到新闻业的根源,即严格和彻底的验证。
如果AI能够制作虚假证据或否认其行为,那么媒体的任务已经是加强事实核查过程,从各种来源交叉检查每项信息,并投资能够检测数字操纵的技术和人力资源。
媒体的作用不再只是道德问题,而是保持公共信息完整性的迫切需要。
除了验证外,媒体还肩负着教育公众了解人工智能潜在欺诈的重大责任。许多人可能没有意识到人工智能不仅犯了错误,而且故意伪造信息。
出于这个原因,媒体需要解释恶作剧现象以及人工智能如何学会欺骗。通过提高人们的数字素养,媒体帮助公众在没有验证的情况下对人工智能生成的信息变得更加批判性,不容易相信。
然而,根据Fortune报道的说法,目前的法规并不是为了应对虚假的AI问题而设计的。例如,欧盟的人工智能法更多地关注人类如何使用AI模型,而不是防止该模型本身的不良行为。
在美国,特朗普政府对紧急的人工智能法规很少感兴趣,国会甚至可能禁止各州制定自己的AI规则。
那么,您认为,今天印度尼西亚媒体应对这一挑战最迫切需要的具体步骤是什么呢?
AI已经开始学习撒谎,还要遵循其他有趣的文章。想知道其他有趣的信息吗?不要错过,监控VOI的最新消息并跟踪其所有社交媒体帐户!
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
