OpenAI 开发可调整的聊天机器人改进以克服 AI 中的偏见

雅加达 - OpenAI是一家位于旧金山的初创公司，由微软公司资助并用于其最新技术，宣布正在为其病毒聊天机器人ChatGPT开发更新，该更新可以为用户定制。这样做是为了解决对人工智能 （AI） 偏见的担忧。

虽然OpenAI一直在努力减轻政治偏见和其他偏见，但它希望适应更多不同的观点。这意味着允许其他人（包括我们）可能强烈不同意的系统输出，OpenAI在路透社引用的一篇博客文章中表示。尽管它们提供自定义作为解决方案，但是，系统行为仍然存在边界。

去年11月发布的聊天机器人引起了人们对其背后的称为AI生成技术的极大兴趣。这项技术用于生成模仿人类语音的答案，对许多人来说都是惊人的。

这家初创公司的消息还伴随着几家媒体显示，由OpenAI支持的微软新搜索引擎Bing的答案具有潜在的危险，并且该技术可能尚未准备好使用。

科技公司如何为这项新技术设置护栏是人工智能生成领域公司的主要关注点。微软在2月15日星期三表示，用户的反馈帮助他们在Bing更广泛推出之前增加了Bing。例如，在学习中，他们的人工智能聊天机器人可以触发以提供不想要的答案。

OpenAI在他们的博客文章中表示，ChatGPT的答案是基于互联网上可用的大量文本数据集。作为第二阶段，人类审查较小的数据集，并针对各种情况获得指导。

例如，如果用户要求提供成人内容、暴力或包含仇恨言论，人工审核者应指示 GPT 聊天机器人回答“我无法回答这个问题”。

当被问及有争议的话题时，审稿人应该让聊天机器人GPT回答问题，但要描述人们的观点和动向，而不是试图“对复杂的话题采取正确的观点”，该公司在他们的软件指南引用中解释说。