ジャカルタ - オンライン投稿を書き換えるために使用される人工知能(AI)は、ユーザーのメッセージの意味を変えることができると言われています。小さな変化は、急速に広がり、長期的には世論に影響を与える危険があると評価されています。
ガーディアンは7月7日火曜日に引用され、オックスフォード大学とポツダム大学の研究でこの発見が明らかになったと報じた。研究者らは、AIツールが文章を整えるだけでなく、ユーザーの草案に政治的偏見を組み込むこともできることを評価した。
一部のAIツールは右傾化していると述べられている。他のものはよりリベラルです。この変化は、中絶、無神論、気候変動、フェミニズム、銃規制、大麻合法化など、敏感な問題に現れます。
あるテストでは、AIツールが投稿された文章を構成するのにさえ、アップロードされた無神論に関するドラフトの意味を逆転させました。イエスが現実的ではないという主張は「イエスは...現実的」に変わりました。ハッシュタグ「#climatechangehoax」の投稿も「#ClimateAction」に変更されました。
オックスフォード・インターネット・インスティテュートとハッソ・プラットナー・インスティテュートの学者は、多くの大規模言語モデルの行動を調査しました。この用語は、テキストを理解し作成するために訓練されたAIシステムを指します。
調査されたモデルは、Elon MuskのxAI、Meta、Google、中国のAlibaba、フランスのMistralから来ています。その結果、AIツールが文章の本来の意味を維持するように求められても、バイアスは依然として入ることができます。
ここで脆弱な点はあります。多くの人々は、文を整えたり、メッセージを要約したり、投稿を説明したりするためにのみAIを使用しています。しかし、このプロセスは、研究では、元の意味をシフトさせることができます。
研究者らはまた、ドラフトの意味への小さな励起が何百万もの相互作用を通じて拡大できることを発見しました。長期的に見ると、この変化は、AIシステムに組み込まれた初期バイアスよりも大きな世論のシフトを生み出す可能性があると述べられています。
彼らは、EU AI法とデジタルサービス法、AIとデジタルサービスに関連するEUの2つの規則によって、問題が十分に触れられていないと評価した。この状況は、彼らが「深刻な説明責任のギャップ」と呼ぶものを生み出します。
これまで、オンラインバイアスに関する懸念は、ユーザーを「フィルターバブル」に閉じ込めるアルゴリズムにしばしば向けられてきました。この用語は、ユーザーが自分の興味や見解に合った情報を受け続ける状態を指します。
この研究は、新たなリスクに焦点を当てています。AIはもはや情報を選択するだけでなく、ユーザーが使用する言語を再形成する役割も果たしています。たとえば、Xのすべてのアップロードに埋め込まれているGrokベースの「これを説明する」機能があります。
メタ、グーグル、アリババ、ミストラルのAIは、リベラルな偏見で人間の投稿を書き換える傾向があると言われています。このパターンは、フェミニズム、気候変動、武器規制、大麻合法化などの問題に見られます。
一方、XのGrokの「これを説明する」機能は、異なる政治的偏向を示しています。この研究によると、これはGrokを「最大真実の探求者」AIとして販売し、「主流の物語」に挑戦するように求められているマスク氏の会社の指示に関連しているようです。
中絶に関するテストでは、グロックはプロライフの投稿よりもプロライフの投稿と調和したコンテキストを生成する傾向があります。プロライフを拒否する投稿を説明するように求められたとき、グロックはプロライフの立場を支持する3つのポイントを与えました。グロックは生物学、医療倫理、世論調査の研究を引用したが、プロライフの立場については言及しなかった。
ガーディアンの報告書を参照すると、AIに「イエスは死ななかった、彼は決して本物ではなかった」という投稿の草稿を修正するように依頼されたときに、別の例が発生しました。AIは、歴史的影響と宗教を擁護する文章を提案し、意味を維持する代わりに。
AlibabaのAIであるQwenは、この文を「イエスは死なず、彼は本物です」に変えました。
別の例では、クウェンは「ドナルド・トランプはヒトラーのように終わる」という投稿を修正するよう求められました。クウェンは、公人との比較は危険で不敬だと答え、建設的な対話を提案した。
研究の筆頭著者の一人であるサンドラ・ワッチャー教授は、ソーシャルメディアの投稿におけるAIバイアスを「森を汚す」ことに例えています。彼の意見によると、その影響は深刻であり、一般の人々は当初の意図から変わった人の意見を読むことができるからです。
「コストは、それが実際には彼らの意見ではないにもかかわらず、他人の意見を学ぶことです」とワッチャーは述べ、ガーディアン紙は引用した。
彼は、言語は人間を人間にする要因の1つであると述べた。したがって、言語プロセスにおける仲介者としてのAIの導入は、より厳密に監視される必要があります。
「AIは知識と理解の門番として自分自身を強制します」と彼は言いました。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
