南非在发现人工智能伪造参考后撤回人工智能政策草案

南非在发现一个假想的参考列表后，绘制了第一个国家人工智能（AI）政策草案，该列表据称是由AI生成的。

南非通信和数字技术部长索利·马拉茨（Solly Malatsi）表示，这些虚假来源可能是在没有适当验证的情况下输入的。

“最合理的解释是，人工智能生成的引文是在没有适当验证的情况下输入的。这不应该发生，“Malatsi说。

他强调，这个问题不仅仅是一个技术性错误，而且已经损害了政策草案的完整性和可信度。 “这种疏忽不仅仅是一个技术问题，而且已经牺牲了政策草案的完整性和可信度，”他说。

此前，该AI政策草案于本月推出，以在最终确定之前征求公众意见。

该文件旨在将南非定位为非洲大陆的AI创新领导者，同时应对该技术发展带来的道德，社会和经济挑战。

在其中，政府提议建立一些新的机构，如国家人工智能委员会、人工智能伦理委员会和人工智能监管机构。

此外，草案还包括一项激励计划，即减税，赠款和补贴，以鼓励与私营部门的合作。然而，在发现虚假参考后，该文件正式被撤回。

Malatsi表示，负责编制该文件的各方将面临后果。尽管如此，他尚未透露何时将发布新草案。

“这种不可接受的疏忽证明了为什么对人工智能的使用保持警惕的人类监督是如此重要。这是一个我们谦卑地接受的教训，“Malatsi说。

此案成为国际关注的焦点，因为它表明了在使用人工智能时进行人工验证的重要性，特别是对于具有广泛战略影响的公共政策文件。

关注VOI Whatsapp频道