Appleが誤ったAIベースの通知の概要で非難されている

ジャカルタ - Appleは、iOS 18.2デバイス上の人工知能(AI)ベースの通知要約機能が、注目を浴びる殺人事件に関連する偽のニュースを生み出した後、鋭い批判に直面しています。この批判は、著名なジャーナリズム組織、国境なき記者団(RSF)から寄せられた。

Apple Intelligence Notification と呼ばれるこの機能は、殺人容疑者であるルイージ・マンジオネが自分自身を撃ったという誤ったヘッドラインを作成した後に強調されました。このような誤った情報は、BBCニュースのニュース筋と誤って関連付けられていた。実際、マンジオネは、ニューヨークの健康保険CEO、ブライアン・トンプソンの殺害で起訴された後、ペンシルベニア州ハントドン刑務所で最大限の警備下にあります。

BBCはこの事件に関してAppleに正式な苦情を申し立てた。一方、RSFはAppleにこの機能を無効にするよう促し、「AIジェネレーティブサービスは、一般の人々が信頼できる情報を提供するにはまだ未熟すぎる」と主張した。

「AIは確率のマシンであり、事実はサイコロゲームでは判断できません」とRSFの技術・ジャーナリズム部門の責任者であるヴィンセント・バーチャーは述べています。彼は、虚偽情報の自動生成は「信頼できる情報に対する公衆の権利に対する危険」であると付け加えた。

この事件は初めてではない。以前、イスラエルのベンヤミン・ネタニヤフ首相のニュースを誤って結論づけたのと同じ機能が、彼が逮捕されたことに言及する通知を添えたと伝えられているが、元の記事は国際刑事裁判所からの逮捕状についてのみ議論していた。

AppleのAI機能は、通知を要約して通知の過負荷を短縮することにより、通知の過負荷を軽減することを目的としています。この機能は、iPhone 15 Pro、iPhone 16、および最新のオペレーティングシステムを搭載したいくつかのiPadおよびMacモデルで利用できます。デフォルトで有効になっていますが、ユーザーはデバイスの設定からオフにできます。