ChatGPT中泄露的危害,从心理学到数据安全

YOGYAKARTA - 在不断发展的数字时代,人工智能(AI)技术(如ChatGPT)在日常生活中越来越熟悉。凭借其快速反应和无评判的能力,ChatGPT不经常被许多人用作通风的朋友。

何时何地,此AI随时准备倾听其用户的投诉。但是,在这种舒适性背后,有许多危险需要注意。

向ChitGPT吐露确实感觉很容易,答复是礼貌的,不抗议的聆听,看起来有理解。但这就是问题所在,太频繁地将内心倾注到人工智能中会引起情感上的依赖。

用户与人直接互动相比,可以更舒服地与手机的屏幕交谈。这种依赖有可能积累社交能力。

长期以来,一个人可能会感到尴尬,难以敞开心扉,甚至避免与朋友或家人进行情感接触。这就是社会隔离的种子。基本上,人类需要真正的联系,涉及同理心,身体语言,语音和机器所没有的情感接触。

还应该强调的是,ChatGPT不是人。他从未恋爱,背叛,失去亲人,或困惑地支付分期付款。ChatGPT是从互联网上数万亿个单词中训练有素的语言模型。答复是模式分析的结果,而不是生活经历的结果。

当你谈论心脏问题、心理健康、或生命中重要决策时,ChatGPT的回应可能感觉合理,但不一定是真的或根据背景。这是因为人工智能没有真正的意识、真正的同理心或情感理解。

牛津大学人工智能教授Mike Wooldridge提醒说,用户应该意识到,在与聊天机器人互动时,它们与旨在反映用户偏好而不是真正的情感理解的算法进行互动。

另一个危险是,许多用户认为ChatGPT可以成为寻求心理学家,医生或财务顾问等咨询的地方。事实上,ChatGPT在任何领域都不是专业人士。所提供的建议只是文本处理的结果,这些结果可能看起来合乎逻辑,但如果粗心大意,则可能具有危险性。

例如,您正在经历抑郁症或严重焦虑,然后询问 ChatGPT。与其获得适当的帮助,您甚至可能收到不适当的一般建议,并使情况恶化。对于严重的问题,与专业人员协商仍然是最好的选择。

伍德里格强调,人工智能实体是为了满足用户偏好而设计的,通常告诉个人他们想听到什么,而不是提供偏见的观点。

另一件同样重要的是与个人数据安全相关的危害。 Wooldridge 表示,与 ChatGPT 这样的AI 对话可能会有助于未来的模型培训。这意味着您提供的任何泄露或信息都可能被用来完善下一个版本的AI。

虽然OpenAI提供了禁用聊天历史记录的功能,但这并不意味着风险完全消失。已进入AI系统的数据很难撤回。

因此,在共享个人信息时要小心。从 agileblue.com 报道,以下是5件不应该与 ChatGPT 分享的事情

全名、出生日期、地址、身份证号码、电子邮件等个人身份。这些数据很容易被滥用于身份盗用。

2. 金融和银行信息

此类数据包括帐号、信用卡或交易信息。这种类型的泄漏可能会造成巨大的财务损失。

3. 密码和登录凭据

永远不要将登录信息共享到任何系统,包括 ChatGPT。这为网络犯罪打开了漏洞。

4. 个人或机密信息

有问题的信息包括家庭、工作或个人关系。 ChatGPT 可以在您不知情的情况下在其他背景下披露此信息。

5. 知识产权

商业理念、创意作品或所有权信息等知识产权。一旦共享,您可能会失去对版权或商业利益的控制。