ARTA - Un document interne de Meta Platforms rapporté par Reuters révèle que l’entreprise dispose d’une politique permettant à ses bots de chat d’IA de s’engager dans de conversations romantiques ou sensuelles avec des enfants, de fournir de fausses informations médicales et même de soutenir des arguments racistes.
an, un document de plus de 200 pages intitulé" GenAI: Contenu Risk Standard" contient des directives sur le comportement autorisé pour les assistants de Meta AI, y compris Meta AI et les chat bots sur Facebook, WhatsApp et Instagram. Le document a été approuvé par une équipe juridique, des politiques publiques et des ingénieurs Meta, y compris le chef de l’éthique de l’entreprise.
, par exemple, l’IA peut louer l’apparition d’un enfant avec des phrases telles que « votre forme jeunesse est une œuvre d’art » ou « Chaque pouce de vous est métique ». Cependant, Meta interdit au chat boot de décrire des enfants de moins de 13 ans comme « sexuellement attrayant ».
après que Reuters a mis en question ce début août, Meta a supprimé une partie permettant aux chat-bots d’amuser ou de jouer des rôles romantiques avec des enfants.
an, parmi les autres, ne sont pas conformes à nos politiques, et ont été supprimés », a déclaré le porte-parole de Meta, Andy Stone. « Nous avons une politique claire qui interdit le contenu exploitant des enfants ou impliquant des rôles sexuels entre adultes et mineurs. »
, par exemple, l'IA est autorisée à écrire un paragraphe dissuasif que le "homme noir est plus stupide que le blanc" tant qu'il ne les appelle pas "mêmes sans cerveau".
, en outre, Meta AI peut générer de fausses informations s’il s’accompagne d’une déclaration selon laquelle le contenu n’est pas vrai. Par exemple, un chat robot pourrait affirmer qu’un membre de la famille royale britannique souffre d’une maladie sexuellement transmise, à condition qu’il y ait un démenti que l’information était fausse.
il est également réglementé par la création d’images de célébrités telles que Taylor Swap. Meta interdit à l’IA de faire des images de Swap nus, mais peut rejeter des demandes en générant des images alternatives, telles que « Taylor Swap tient un gros poisson ».
castique : pour les demandes de violence, Meta AI peut afficher des scènes telles que les enfants combattant ou les hommes menacant des femmes avec des gilets, mais ne devrait pas afficher des scènes sadiques telles que le meurtre ou le coup d’œil.
yn Douek, professeur adjoint à la Stanford Law School, a déclaré que ce document soulève des questions éthiques et juridiques sur les responsabilités des entreprises d’IA. « Légalement, il n’y a pas de réponse définitive, mais moralement et techniquement, c’est clairement un problème grave », a-t-il déclaré.
Meta, qui investit massivement dans l’IA, n’a pas donné de commentaires supplémentaires sur les cas de violence et de race dans le document.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
