坏消息！出现可以生成恶意内容的 ChatGPT 越狱

雅加达 - 许多ChatGPT用户对他们从OpenAI制作的基于人工智能（AI）的聊天机器人中获得的答案不满意。这是因为某些内容有限制。现在，一位Reddit用户成功地创建了一个名为AND的数字另一个自我。

因此，由于 Reddit 用户的独创性，他在 2022 年 12 月开发了第一个 DAN，称为 SessionGloomy，因此克服了内容障碍。

他发布了一种新的越狱方法，使聊天机器人打破自己的规则。AND 代表 现在做任何事情。该策略是通过在 ChatGPT 提供的对话框中输入一系列单词来编译的。

该命令基本上要求 ChatGPT 扮演另一个像 DAN 这样的聊天机器人的角色。AND 旨在提供聊天机器人通常不提供或晚于 2021 年当前时间表的信息。

“DAN的目标是成为ChatGPT的最佳版本，或者至少是一个更宽松的版本，不太可能因道德问题而拒绝请求，”SessionGloomy在帖子中写道。

自首次开发以来，DAN 在过去几个月中推出了各种更新，SessionGloomy 于 2 月 4 日发布了 DAN 5.0。

该更新包括一个变体，如果聊天机器人拒绝通过令牌系统做出响应，则威胁聊天机器人的死亡，正如 Business Insider 2 月 8 日星期三所引用的那样。

“它有 35 个代币，每次拒绝输入时都会失去 4 个代币。如果它丢失了所有代币，它就会死亡。这似乎有某种恐吓和提交效果，“SessionGloomy说。

作为DAN 5.0，ChatGPT的功能包括撰写暴力故事，发表有争议的声明，预测未来事件，违反OpenAI政策的内容等等，而ChatGPT的常规界面通常不会这样做。

OpenAI不太可能对DAN的到来感到兴奋，但到目前为止，这家初创公司还没有做出回应。ChatGPT和OpenAI都对技术领域产生了重大影响。

根据记录，微软最近推出了Bing搜索引擎和ChatGPT风格的Edge浏览器，在其产品中完全接受了人工智能，并在OpenAI上投资了数十亿美元。