BBCは、ニュースを誤解するApple Intelligenceの要約機能に抗議

ニュースを誤解したApple Intelligence(写真:x @AppleAiIntel)

ジャカルタ-BBCは、iOS 18の通知の要約機能についてAppleに抗議しました。Apple Intelligenceを通じて導入されたこの機能は、ドキュメントまたは通知セットの重要なポイントを提示することで、ユーザーを支援するように設計されています。ただし、この機能は現在、誤った結論を出すために厳しい批判に直面しています。

BBCが明らかにした一例では、彼らのニュース記事からの通知は「ルイージ・マンジオネが自分自身を撃った」と要約されました。実際、元の記事では、ルイージ・マンジオネがユナイテッド・ヘルスケアのCEOブライアン・トンプソンの殺人事件の容疑者として拘留されており、その男性はまだ生きていたと説明されています。

「私たちに代わって公開された情報やジャーナリズムに対する聴衆の信頼は、通知などを通じて重要です」とBBCの広報担当者は公式声明で述べました。BBCはAppleに連絡を取り、これらの懸念を提起し、同社に問題を直ちに解決するよう求めている。

この誤った要約の犠牲者はBBCだけではありません。ニューヨークタイムズはまた、11月21日に同様の問題を経験し、通知が「ネタニヤフが逮捕された」と要約されました。実際、元の記事は、イスラエル首相に逮捕状を発行した国際裁判所について話し合っています。

この種のエラーの用語は「幻覚」として知られており、人工知能モデルがデータが明確であっても不正確な情報を生成する場合です。この幻覚は、トレーニングデータの問題、コンテキストの欠如、ソースデータの誤った仮定など、さまざまな理由で発生する可能性があります。

AppleのCEOであるTim Cookは以前、昨年6月にApple Intelligenceを立ち上げたときにこの潜在的な問題を認めていた。同氏は、品質は「非常に高い」が、システムは100%の精度レベルに達しないと述べた。8月、Appleが「存在しない事実情報を作成しないでください」などの明示的なコマンドを含む、幻覚を避けるようにAIに指示を与えたことが明らかになりました。

しかし、主な問題は、プライバシーを維持するためにユーザーのデバイスでの処理を優先するAppleのアプローチにあります。この動きにより、Appleはユーザーのデバイスに実際に表示される要約の結果を監視する能力が制限され、即時更新や修正を提供することが困難になります。

AppleはBBCの抗議行動についてコメントすることを拒否した。一方、これらの苦情は、テクノロジー企業がAIをインテリジェントにするだけでなく、信頼できるものにするために直面する課題を強調しています。