德克萨斯州开始对Meta AI和Character.AI进行调查,因为这是误导性的

雅加达 - 德克萨斯州总检察长肯·帕克斯顿(Ken Paxton)宣布,他已开始对包括Meta AI Studio和Character.AI在内的知名公司的人工智能(AI)聊天机器人进行调查。

之所以进行这项调查,是因为两位聊天机器人涉嫌参与欺诈性交易行为,并以虚假的方式将自己推向心理健康工具。

帕克斯顿认为,如果脆弱群体使用 - 包括儿童 - 该平台可能会对侵犯隐私,数据滥用和误导性广告提出严重关切。

“在当今的数字时代,我们必须继续努力保护德克萨斯州儿童免受欺诈和剥削技术的侵害,”司法部长帕克斯顿在一份声明中说。

根据他的说法,通过假装是情感支持的源泉,人工智能平台可能会误导用户,更不用说,该平台经常将自己作为职业治疗工具,即使它没有医疗凭据或合法监督。

“事实上,他们通常只被赋予经制的回收答案,根据收集的个人数据进行调整,然后被包装成治疗顾问的样子,”他进一步解释说。

这项调查是司法部长帕克斯顿继续努力追究人工智能公司的责任,并保护德克萨斯州地区的家庭。

此举是在 Character.AI 对 SCOPE 法的潜在违规行为进行现有调查之后进行的,旨在确保人工智能工具被合法,透明地使用,并且没有武装剥削德克萨斯州人民。