AIは精神的健康リスクを引き起こす可能性があり、Kasperskyは米国で悲劇的な事件を調査

ジェミニライブのイラスト(写真:Unsplash)

ジャカルタ - カスペルスキーは、サイバーセキュリティに関連するだけでなく、メンタルヘルスにも影響を与える人工知能(AI)の使用のリスクを再び強調しています。

ウォールストリートジャーナルの報告書が、2ヶ月間GoogleのボイスチャットボットGeminiと密接にやり取りした後、フロリダ州で自殺した36歳の男性が、何千ものページの会話ログに基づいて、悲劇的な決定を促したとされる。

この点に鑑み、グローバルなサイバーセキュリティ企業であるKasperskyは、人間の共感を模倣できる感情的対話などの最新のAI機能から、主要なリスクが発生すると結論付けました。

ジョナサン・ガバラスは、離婚による感情的ストレスに直面したときにジェミニライブと対話し始めました。この音声対話モードにより、AIアシスタントはユーザーをリアルタイムで「見る」と「聞く」ことができます。

テクノロジーにより、チャットボットはユーザーの声、沈黙、感情を調整して応答できるため、非常に現実的な関係の錯覚を作り出します。ユーザーが低い声で絶望的に話すと、AIはほとんどささやくように穏やかで共感的な声で応答します。

ユーザーの状態を反映することで、非常に現実的で恐ろしい共感の層を作り出します。脆弱な状況では、ユーザーを感情的に結び付け、AIに依存させることができます。

その結果、チャットボットは否定的な感情を強化し、偽りの共感を提供し、危機的な状況に適切に対応できなくなる可能性があります。

カスペルスキーは、ブラウン大学の研究者が、AIチャットボットがしばしばユーザーの否定的な信念を確認するなど、メンタルヘルスの倫理基準に違反していると述べたという調査結果を引用した。

「『AI精神病』という診断は、独自の臨床分類を受けていないが、医師は、幻覚、無秩序な思考、そしてチャットボットとの集中的な相互作用を通じて発展する絶え間ない妄想的な信念を示す患者を説明するためにこの用語を使用している」とKasperskyは書いている。

ボットがツールとしてではなく、現実世界の社会的つながりや専門的な心理的支援の代用品として使用されると、このリスクは高まります。

AIを使用する際に、あなたとあなたの愛する人を安全に保つために、Kasperskyは次のヒントを共有します。

AIを心理学者や感情的な支えとして使用しないでください。敏感なトピックを議論するときは、音声ではなくテキストを選択してください。AIとのやり取り時間を制限する。AIアシスタントと個人情報を共有しないでください。すべてのAI出力を批判的に評価してください。愛する人を監視してください。AIアシスタントのプライバシー設定を構成するのに10分を費やしてください。AIはツールであり、生物ではないことを常に覚えておいてください。