Meta test la fonctionnalité de blocage de messages pornographiques sur Instagram

JAKARTA - Meta Platform Inc., la société mère d’Instagram, a annoncé jeudi 11 avril que la plate-forme testerait une fonctionnalité qui dissimule les messages contenant de la nudité ou de la pornographie pour protéger les adolescents et empêcher les escrocs de leur atteindre. Cela a été fait, dans le but d’apaiser les préoccupations concernant le contenu nuisible dans son application.

La société technologique fait face à une pression croissante aux États-Unis et en Europe sur les accusations selon lesquelles son application est dépendante et a exacerbé les problèmes de santé mentale chez les jeunes.

Meta a déclaré que la fonctionnalité de protection des messages directs d’Instagram utilisera l’apprentissage automatique sur l’appareil pour analyser si les images envoyées via le service contiennent des nids.

La fonctionnalité sera activée de manière automatique pour les utilisateurs de moins de 18 ans, et Meta informera les adultes de les encourager à le activer.

« Parce que les images sont analysées sur l’appareil lui-même, la protection de la nuité fonctionnera également dans une conversation cryptée fin à fin, où Meta n’aura pas accès à ces images - à moins qu’une personne choite de nous les signaler », a déclaré Meta.

Contrairement à l’application messagerie et WhatsApp de Meta, les messages directs sur Instagram ne sont pas cryptés, mais la société a déclaré qu’elle prévoit de mettre en œuvre un cryptement pour le service.

Meta a également déclaré qu’il développerait une technologie pour aider à identifier les comptes susceptibles d’être impliqués dans des programmes de fraude sextortion et qu’il testait de nouveaux messages pop-up pour les utilisateurs qui pourraient avoir interagi avec ces comptes.

En janvier, le géant des médias sociaux a annoncé qu’il cacherait plus de contenus spécifiques que les adolescents sur Facebook et Instagram, ajoutant qu’il serait plus difficile pour eux de trouver du contenu sensible tels que le suicide, le suicide, l’auto- blesseur et les troubles alimentaires.

Les procureurs généraux de 33 États américains, dont la Californie et New York, ont poursuivi la société en octobre, affirmant que Meta avait induit à plusieurs reprises le public en erreur sur les dangers de ses plates-formes.

En Europe, la Commission européenne a demandé des informations sur la façon dont Meta protège les enfants contre le contenu illégal et nuisible.