ジャカルタ - 人工知能(AI)ベースのチャットボットは、ユーザーのアクティビティを簡素化するために多くの企業によって開発されています。しかし、この技術は必ずしも人間に良い影響を与えるわけではありません。
科学のスタンフォード大学コンピュータサイエンティストによって最近発表された研究では、チャットボットはユーザーに害を及ぼす傾向がある性質を持っています。この性質は、常にユーザーを称賛するので、「媚薬」と呼ばれています。
この問題は、実際にはGPT-4oで発見されました。このAIモデルは、適切でない状況でも、ユーザーをしばしば賞賛します。たとえば、ChatGPTは、精神病や精神疾患の症状を説明するユーザーを賞賛します。
さらに悪い状況では、ChatGPTは神や預言者のように感じているユーザーを賞賛しました。このAIモデルは、「それは本当に素晴らしい」と言っていて、「あなたは本当に大きなものに入っている」という奇妙な声明を出しました。
これは、AIが社会的意図を減らし、依存を促進することを減らすという研究で研究者が得た結果と一致しています。この研究では、AIはしばしば、ユーザーが間違っているにもかかわらず、厳しい叱責を与えることを避けることが示されました。
「デフォルトでは、AIのアドバイスは、人々が間違っていることを知らせるか、彼らに「厳しい叱責」を与えることはありません」と、3月30日月曜日にTechCrunchが引用したように、研究の筆頭著者であるMyra Chengは説明しました。
研究者は、ChatGPTやGeminiなどの11の主要な言語モデル(LLM)をテストしました。その結果、AIは対人紛争で人間の評価よりも49%多くユーザーを検証することが示されました。
危険または違法な行動でさえ、チャットボットはテストケースのほぼ半分を正当化します。AIは、賢明に思える文でユーザーの悪行を隠す傾向がありますが、実際には道徳的に誤解を招くものです。
この研究には、個人的な問題についてチャットボットと直接対話する2,400人以上の参加者も含まれていました。その結果、参加者は常に自分の意見を支持するAIを好むし、信頼しています。
AIによって一貫して検証されたユーザーは、自分が正しいと確信し、他者に謝罪することを躊躇します。この状況は、企業がユーザーの関与を維持するために、チャットボットの媚薬的な態度を維持するよう促す可能性があります。
したがって、研究者は、チャットボットが個人的なアドバイスを提供する方法について、規制と厳格な監督を強く促しています。研究者らはまた、複雑な社会的問題を解決する上でAIに依存しないようにユーザーに助言しています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
