英国:人工智能产业中企业主导和信息的危害风险

英国竞争管理局、竞争与市场管理局(CMA)表示,人工智能(AI)行业可能以一种方式发展存在“真正的风险”,导致只有少数公司主导市场。这将导致消费者暴露于有害信息。

CMA在9月18日发表的一份报告中调查了人工智能的基本模型,得出结论,尽管人工智能可以改变人们的生活方式和工作方式,“这种变化可能会迅速发生,并对竞争对手和消费者产生重大影响”。

竞争监管机构警告说,在短期内,如果竞争力弱势或开发商未能遵守消费者保护法,消费者可能会接触到虚假信息或人工智能可能的欺诈的重大水平。

CMA表示,从长远来看,一些公司有可能获得或加强市场优势的地位,这可能导致他们没有提供最好的产品或服务,或者收取高价。

「这些结果不可见是非常重要」CMA首席执行官莎拉·卡德尔(Sarah Cardell)表示:“重要的是,这些结果不会出现。仍然存在真正的风险,即人工智能的使用会以破坏消费者信任的方式发展,或者由一些参与者控制,这些参与者破坏了市场力量,从而阻止了整个经济体的全部好处。

为了克服这一点,监管机构提出了若干“指南原则”,以确保“消费者保护和健康竞争,同时实现全面的经济效益”。

本指南的原则似乎侧重于改善访问性和透明度,特别是防止企业使用AI模型获利。

英国的竞争监管机构表示,它将在2024年初之前发布有关这些原则及其应用的最新消息,以及对AI生态系统的更多见解。他们还与实施该技术的AI开发人员和企业进行了沟通。

这不是英国第一次警告人工智能取得快速进展。去年6月,英国首相的AI代理顾问马特·克利福德(Matt Clifford)表示,未来两年,这项技术将需要监管和控制,以应对现有的重大风险。

同样在6月,日本的隐私保护机构警告 ChatGPT 的母公司 OpenAI 如何收集数据。