内部メタリサーチ:Instagramが脆弱なティーンエイジャーに「摂食障害の近く」のコンテンツを示す

Instagramは、「食べる不規則性」をテーマにしたコンテンツをより頻繁に見ることが判明しました(写真:x @かなりの写真0.)

ジャカルタ—ロイターが入手した内部文書によると、Instagramを使用した後に体の悪い感情を報告したティーンエイジャーは、他のユーザーよりも「隣接する摂食障害」をテーマにしたコンテンツ、または摂食障害や否定的な身体イメージに関連するコンテンツをより頻繁に見ることが明らかになりました。

メタの内部調査によると、ティーンエイジャーのホームページに表示される投稿は、胸、お尻、太ももなどの体の特定の部分を表示することが多く、体型の明示的な評価と、不健康な食事や体に対する不満を攻撃するコンテンツを伴っています。

2023年から2024年の学年度に、メタは1,149人のティーンエイジャーにインタビューし、Instagramを使用した後、自分の体に気分が悪かった頻度を評価しました。結果は驚くべきもので、身体に最も不満を感じていた223人のティーンエイジャーは、他のグループの3.3%と比較して、摂食障害をテーマにしたコンテンツの10.5%を見たことが判明しました。

メタの研究者は、自分の体に不満を抱くことが多いティーンエイジャーは、他のティーンエイジャーよりもそのようなコンテンツの3倍を見たと書いています。さらに、グループはまた、「危険な行動」、「暴力」、「苦しみ」というテーマを含む挑発的な「大人の」コンテンツに扱われることが多く、全体的に見られる総コンテンツの27%を占め、否定的な感情を報告しないティーンエイジャーのグループのほぼ2倍です。

それでも、メタは、この研究はInstagramと身体に対する悪い感情の出現との間の直接的な因果関係を証明していないと主張しています。すでに否定的な身体イメージを持っているティーンエイジャーは、そのようなコンテンツを探すことにもっと積極的である可能性があります。

メタのスポークスマン、アンディ・ストーン氏は声明で、調査結果は製品を理解し改善するという同社のコミットメントを示していると述べた。

「この研究は、私たちがティーンエイジャーの経験を真剣に理解し、その洞察を使ってより安全で協力的なプラットフォームを作成していることを証明しています」と彼は言いました。ストーン氏は、メタは現在、未成年のユーザーがPG-13の映画基準と一致するコンテンツを制限しようとしていると付け加えた。

しかし、この調査では、メタフィルタリングシステムにも大きな欠点が見つかりました:潜在的に有害な機密コンテンツの98.5%は、自動監視アルゴリズムによって検出されませんでした。研究者たちは、機密コンテンツを検出する新しいシステムがまだ開発段階にあるため、これは「驚くべきことではない」ことを認めています。

この研究の結果から、ミシガン大学の小児科教授であるジェニー・ラデスキーのような外部専門家は、この発見を「憂慮すべきものだが信頼できる」と呼んだ。

「これは、心理的脆弱性を持つティーンエイジャーがInstagramのアルゴリズムによってプロファイリングされ、より有害なコンテンツにさらされているという見方を強化します」とRadesky氏は述べています。

問題があると見なされるコンテンツのサンプルには、下着を着た薄い女性の画像、戦いのビデオ、そして「どのように私はこれまでコンパールできたか」や「それをすべて終わらせる」などの文字が付いたうつ病をテーマにしたイラストが含まれます。 ある画像は、負傷した女性の首さえ示していました - プラットフォームのルールに違反していなくても、研究者は報告書に「機密性の高いコンテンツ」について警告が与えられるほど極端であると判断しました。

Meta自体は、高齢者、小児科医、摂食障害や身体イメージに関する内部諮問委員会に至るまで、さまざまなグループが、精神的幸福を悪化させる可能性があるため、ティーンエイジャー向けの身体をテーマにしたコンテンツの配信を制限するよう同社に長い間求めてきたことを認めています。

この調査は、メタがそのプラットフォーム上の心理的危険から10代のユーザーを保護していないと非難する米国の多くの学区からの連邦調査と訴訟の中で、Instagramのアルゴリズムが若者に与える影響に関する公的および規制当局の懸念の長いリストに追加されます。