JAKARTA - Lorsque Grok a subi des pressions de plusieurs pays au début de cette année, Apple s’est également implíquée dans le probl ème. En fait, la société a fait des menaces contre Grok.
En raison des capacités avancées d’édition que Grok offre, Apple a menacé d’enlever le chatbot basé sur l’intelligence artificielle de l’App Store. Selon Apple, les capacités de Grok ont enfreint les directives de son magasin d’applications.
Comme beaucoup de gens ont découvert sur la plate-forme X, Grok peut être utilisé pour éditer des photos tout en gardant l’authenticité du sujet dans la photo. Cela a conduit à un nombre élevé de deepfakes sexuels générés par le chatbot xAI.
Sur la base d’une lettre exclusive obtenue par NBC News, Apple a personnellement poussé l’équipe X et Grok à améliorer leur système de modération du contenu. Apple a découvert que la sécurité de Grok était si faible qu’elle était souvent utilisée pour dévêtir des sujets photographiques sans consentement.
X a envoyé une mise à jour de l’application pour répondre à ces critiques, mais Apple a refusé car le changement n’a pas été consideré comme significatif. Apple a demandé des correctifs de fond pour proteger les utilisateurs des contenus dangereux, en particulier ceux qui ciblent les femmes et les mineurs.
Voici le contenu de la lettre que Apple a envoyée aux sénateurs américains concernant son refus des capacités d'édition dans Grok.
« Nous avons rejeté la demande de Grok et avons informé le développeur que des modifications supplémentaires seraient nécessaires pour corriger les violations, ou que l’application pourrait être retirée de l’App Store. »
Cette menace d'effacement explique pourquoi xAI a durci les règles d'utilisation de son outil au milieu de la controverse sur la modification. Les changements comprennent des restrictions d'accès et une interdiction de modification impliquant des photos de personnes réelles.
Bien que la mise à jour la plus récente ait finalement été approuvée, les derniers rapports montrent que Grok a toujours des failles de sécurité. Certains utilisateurs auraient encore réussi à contourner le système pour produire des images de femmes avec des vêtements très ouverts.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
