雅加达 - OpenAI 宣布,它已阻止一些涉嫌与中国政府实体有联系的 ChatGPT 帐户,此前这些帐户的用户要求聊天机器人编制与社交媒体上对话监控相关的提案。
总部位于旧金山的该公司在其最新的公共威胁报告中表示,一些人使用ChatGPT要求设计“社交媒体倾听”工具和其他数字监控概念 - 被认为违反了OpenAI国家安全政策的要求。
此举突显了对滥用生成人人工智能的新担忧,因为美国和中国在开发和监管AI技术方面竞争日益激烈。
除了与中国连接的帐户外,OpenAI还关闭了一些已知使用ChatGPT协助网络钓鱼和恶意软件创建活动的曼达里语帐户,并要求AI模型研究可以通过名为DeepSeek的中国AI系统完成的额外自动化。
中国驻美国大使馆尚未就该报告发表评论。
不仅如此,OpenAI还禁用了涉嫌与讲俄语的犯罪集团相关的帐户,这些组织利用 ChatGPT 来帮助开发某些类型的恶意软件。
据OpenAI称,自2024年2月公开发布公共威胁报告以来,他们已经挫败并报告了40多个恶意网络。微软支持的该公司断言,其模型没有显示出任何新的策略或为威胁行为者提供新的攻击能力。
“我们没有发现任何新的战术的证据,也没有迹象表明我们的模型提供了前所未有的攻击能力,”OpenAI在其报告中写道。
OpenAI目前每周拥有超过8亿的ChatGPT用户,在上周完成二级股票销售后,刚刚成为世界上最有价值的初创公司,估值为5000亿美元。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
