Le Challenge génératif de l’IA, Sendbird: Doit commencer par l’industrie avant le gouvernement
JAKARTA - PDG et cofondateur de Sendbird, John Kim, a révélé que le chat boot générateur puissant d’IA présente plusieurs avantages tels que l’augmentation de la productivité organisationnelle, la vitesse de la communication et l’engagement des clients.
Néanmoins, cette puissance génératrice de l’IA soulève également des problèmes éthiques survenus, tels que les problèmes autour de la sécurité, de la confiance et de la propriété.
Lors du Forum économique mondial de 2024, avec le contenu que l'IA produit aujourd'hui, les dirigeants débattent sur la nécessité de protéger les prompts de droits d'auteur et sur la façon de faire la différence entre le contenu humain et le contenu fabriqué par le moteur.
Mais avant de se diriger vers des réglementations gouvernementales strictes, Kim soutient que l’industrie devrait commencer à protéger ses clients en élaborant des directives sur les restrictions sur le contenu, l’utilisation de technologies de modération et l’authentication des parties à la communication.
Selon lui, les acteurs commerciaux qui appliquent des AI doivent assurer la confidentialité et la sécurité des données de leurs utilisateurs, ainsi qu’éviter les biais algorithmes et les mauvaises informations dans la communication de leurs chat boot d’IA.
Par exemple, OpenAI propose des outils pour modérer le contenu en fonction de sa politique d’utilisation. Google a également annoncé une modération de la politique de contenu d’IA, qui entre en vigueur le 31 janvier 2024.
« Sur la base de cette politique, Google exige que les développeurs d’applications pour Android incluent des instructions pour les utilisateurs pour signaler le contenu offensant des résultats d’IA sur les applications sur Google Play », a expliqué Kim.
Pour surmonter ce défi, Sendbird s’engage à contribuer à un environnement sûr et positif pour l’interaction en ligne, tout en utilisant le potentiel transformatif de l’IA pour améliorer les communications commerciales.