ChatGPT年龄验证系统仍然错误地分类用户帐户

ChatGPT年龄验证系统的问题（照片：dok. unsplash）

雅加达 - OpenAI已经为其聊天机器人用户ChatGPT推出了自动年龄验证系统。该系统旨在限制对青少年有害的内容，但该技术并不完美。

从PC Mag开始，OpenAI承认该技术的准确性并不完美。但是，为了提高其准确性，该系统试图分析各种使用信号，例如帐户的年龄，用户使用ChatGPT的活跃时间以及日常交互模式。

如果帐户被检测为青少年，聊天机器人将自动过滤敏感内容。青少年帐户将被阻止的内容包括暴力、不健康的美容标准以及自我伤害行为等危险行为。

不幸的是，这个年龄预测技术在分类用户状态方面仍然不准确。如果有人被检测为青少年，他们可以向OpenAI报告。然而，这些报告必须通过Persona（第三方身份系统）发送自拍照。

该功能的准确性当然是一个很大的问题，特别是在数字安全专家和父母中。如果一个应该属于儿童的帐户被归类为成人，这可能会在未来造成问题。

美国商人兼企业家马克·库班（Mark Cuban）也是批评这项技术的政党之一。根据库班的说法，OpenAI提供的技术不能完全解决儿童接触色情内容的问题。

因为青少年总是有办法绕过安全系统，特别是公司承认的系统尚未成熟。直到本新闻发布时，OpenAI没有透露创建ChatGPT年龄预测系统需要多长时间才能变得更准确。

OpenAI也遇到了这个问题。不久前，Roblox推出了类似的功能，以限制不同年龄组的用户之间的互动。例如，18岁及以上的成年人不能与13岁以下的儿童交流。

为了与适当年龄的用户保持互动，所有用户都必须验证身份和面部。然而，在Roblox时代，仍然存在某些帐户被错误分类的情况，例如，应该属于成年的帐户实际上被归类为儿童或青少年。