Startup AI Porno poursuit Apple, accusant l'application App Store d'appliquer des règles de manière incohérente

JAKARTA - Un nouveau conflit juridique a secoué l’industrie de la technologie après que la startup d’intelligence artificielle Ex-Human a intenté une action en justice contre Apple pour avoir supprimé son application de l’App Store. L’entreprise estime que la décision a été prise arbitrairement et nuit à son entreprise.

Dans la plainte déposée devant un tribunal fédéral de Californie, Ex-Human a accusé Apple de ne pas avoir fourni de explications détaillées concernant la suppression de leurs applications, à savoir Botify AI et Photify AI. Apple a seulement cité des raisons générales telles que « des activités frauduleuses ou frauduleuses », sans preuve concrète. De plus, Ex-Human a affirmé qu’Apple avait retenu 500 000 dollars de revenus de l’application.

L’application Ex-Human est connue pour être toujours disponible sur d’autres plateformes, y compris le Google Play Store. L’entreprise développe également une API utilisée par un certain nombre de partenaires, y compris Grindr.

Mais derrière la plainte, un contexte plus sensible est apparu. Un rapport de MIT Technology Review avait auparavant révélé l’existence d’un chatbot sur la plate-forme Botify AI qui prétendait avoir moins de 18 ans et s’engager dans des conversations sexuelles explicites. En outre, la technologie de l’entreprise peut produire des images sexuelles sans consentement de personnes réelles.

Ex-Human a reconnu qu'il y avait une lacune de modération qui a permis à des contenus problématiques de passer, mais a qualifié le cas d'échec du système de filtrage qui a ensuite été corrigé. Cela dit, le fait que le contenu ait pu apparaître et même être populaire sur la plate-forme a été jugé suffisant pour que Apple agisse.

Apple est elle-même connue pour être stricte dans le maintien de l’écosystème de l’App Store, en particulier en ce qui concerne le contenu illicite ou à haut risque. Bien que le contenu adulte ne soit pas totalement interdit, l’entreprise fixe des restrictions strictes, y compris une interdiction de l’exploitation des enfants et de l’utilisation d’images sans consentement.

Dans sa plainte, Ex-Human a également accusé Apple d’avoir tenté de se débarrasser d’un concurrent après avoir lancé des fonctions internes telles que Image Playground. Cependant, cette revendication a été jugée faible par un certain nombre d’observateurs, étant donné les différences de fonction entre les deux services.

L'affaire a également ouvert un débat plus large sur la cohérence des politiques d'Apple. Les critiques ont souligné que d'autres applications, y compris celles liées à la technologie IA d'Elon Musk via xAI, sont toujours disponibles, même si elles ont été impliquées dans des controverses similaires.

Jusqu'à présent, il n'est pas clair comment la cour va trancher cette affaire. Avec l'augmentation de la pression réglementaire sur les plateformes numériques et les questions éthiques de l'IA qui deviennent plus complexes, le résultat de cette action en justice pourrait devenir un précédent important pour l'industrie.