雅加达 - 在被指控损害青少年的心理健康的指控起诉后,Charakter AI决定改变很多事情。这个聊天机器人已经更改了培训模式并添加了新功能。
为了建立更安全的空间,Charakter AI表示,它将继续构建和改进与用户直接交互的大型语言(LLM)模型。他们甚至为青少年制作了单独的模型。
Character AI在其官方网站上表示:“其目的是将模型从特定的响应或交互中引导开来,减少用户查找或鼓励模型返回敏感或暗示性内容的可能性。
Character AI还使用两种新策略来防止LLM生成敏感和不适当的内容。该平台旨在阻止不适当的内容输出并阻止不适当的用户输入。
输出部分,Charakter AI 使用分类工具,可以识别 LLM 的特定类型和响应,而在输入部分,Charakter AI 提高了其平台上的过滤器检测和干预能力。
例如,如果我们检测到用户已发送违反我们服务条款或社交社区指南的内容,则该内容将被阻止与字符的对话。
除了通过改进模型进行预防外,Charakter AI还推出了许多新功能,可以预防青少年精神健康障碍问题。此功能是父母控制,以提供对子女的见解。
家长可以查看平台内花费的时间和通常用于交互的字符。此外,还有预警时间通知功能。每当用户使用该平台一个小时时,他们都会收到消息。
Character AI表示:“虽然此功能以后将具有可定制选项,但18岁以下的用户将对其更改功能有更多的限制。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
