雅加达 - 12月19日(星期二),美国总统乔·拜登(Joe Biden)政府宣布了第一步,以制定使用安全生成人工智能的标准和关键指南以及测试和保护系统的方法。
美国商务部国家标准与技术研究所(NIST)表示,它正在寻求公众的意见,直到2月2日,以进行关键测试,这对于确保人工智能(AI)系统的安全性至关重要。
贸易部长吉娜·雷蒙多(Gina Raimondo)表示,这一努力是由乔·拜登(Joe Biden)总统10月关于人工智能的行政命令引发的,旨在制定“围绕人工智能安全、安全和信任的行业标准,使美国能够继续负责任地开发和使用这种快速增长的技术。
NIST正在制定评估人工智能的指导方针,促进标准开发,并提供评估人工智能系统的测试环境。这一要求要求要求人工智能公司和公众就生成人工智能风险管理和人工智能产生的信息风险降低提供意见。
生成人工智能 - 可以创建文本、照片和视频作为对公开命令的回应 - 最近几个月引起了人们的喜悦和恐惧,即这项技术可能会使一些工作过时,破坏选举,并有可能以可怕的影响击败人类。
拜登令指示各机构为这些测试制定标准,并应对与化学、生物、放射学、核和网络安全相关的风险。
NIST寻求建立测试指南,包括所谓的“重播”将对人工智能的评估和风险管理非常有用,并制定最佳实践来做到这一点。
外部红色播放多年来一直被用于网络安全,以识别新的风险,该术语指的是美国冷战的模拟,敌人被称为“红队”。
8月,在主要的网络安全大会期间,首次在美国公开举办“红色热刺”活动,并由AI Village,SeedAI,Humane Intelligence组织。
白宫表示,成千上万的参与者试图看看他们是否“能够使系统以其他方式产生不必要的产出或失败,目的是更好地了解这些系统面临的风险”。
声明补充说,该活动“展示了如何将外部红色编辑作为识别新AI风险的有效工具”。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
