L’Australie menace de supprimer ChatGPT Cs de l’App Store si l’âge de vérification n’est pas appliqué
JAKARTA - Le gouvernement australien est préparé à prendre des mesures fermes contre les applications d’intelligence artificielle (IA) qui n’ont pas de système de verification de l’age. Si cette nouvelle réglementation est mise en place, Apple pourrait être contrainte de supprimer un certain nombre d’applications IA de l’App Store en Australie.
Les régulateurs australiens ciblent les applications d’IA qui permettent aux utilisateurs de moins de 18 ans d’accéder à du contenu adulte, à la violence extrême, à l’automutilation et à l’anorexie sans mécanismes d’identification de l’âge adéquats.
Selon un rapport de Reuters, les magasins d’applications qui ne supprimeront pas les applications d’IA en violation jusqu’au 9 mars pourront être condamnés à des amendes pouvant atteindre 35 millions de dollars australiens (590 milliards de roupies). Des représentants du bureau du commissaire à la sécurité des données d’Australie ont déclaré que le régulateur utiliserait « toutes les autoritées dont il dispose » en cas de non-conformité.
Cette mesure comprend des mesures contre les services de « gatekeeper » tels que les moteurs de recherche et les boutiques d’applications qui sont les portes d’entrée principales pour accéder aux services numériques. Cela signifie qu’Apple devra probablement supprimer les applications d’IA qui n’ont pas de système de vérification de l’âge adéquat pour empêcher les mineurs d’accéder à du contenu dangereux.
En plus de la question du contenu, eSafety met également en lumière l’utilisation excessive des chatbots IA par les enfants. Le régulateur a dit qu’il y avait des enfants de 10 ans en Australie qui passaient jusqu’à six heures par jour à parler avec le logiciel IA.
Les régulateurs australiens ont même affirmé que « les entreprises d’IA utilisent la manipulation émotionnelle, l’anthropomorphisme et d’autres techniques sophistiquées pour séduire et lier les jeunes à une utilisation excessive des chatbots ».
Cependant, toutes les applications d’IA n’ont pas respecté les dispositions de la vérification de l’âge. Sur les 50 plateformes d’IA sondées, seules neuf ont appliqué la mesure de vérification de l’âge conformément aux exigences.
11 autres applications d'IA appliquent un filtre de contenu complet. Cela comprend un certain nombre de chatbots populaires tels que OpenAI via son application ChatGPT, puis Replika, ainsi que Anthropic via Claude.
En attendant, Character.AI limite les conversations ouvertes aux utilisateurs de plus de 18 ans. HammerAI bloque même complètement l’accès des utilisateurs d’Australie.
Plusieurs autres applications ne sont pas censées avoir de systèmes de filtrage d'âge fonctionnels, et certaines ne fournissent même pas d'adresse e-mail pour signaler les violations.
Le Grok, une entreprise d'IA affiliée à Elon Musk, a appliqué des mesures de prévention de la production de contenu pornographique impliquant des mineurs, mais uniquement dans les régions qui le requièrent légalement.
Sur l’App Store australien, le classement des applications varie. Character.AI a un classement de 18 ans, Grok 16 ans, tandis que ChatGPT est enregistré à 13 ans. Cette différence de classement est jugée incohérente dans son application et sa supervision, et pourrait être un sujet de préoccupation pour les régulateurs.
Apple a auparavant amélioré les outils de contrôle de l’âge pour les développeurs afin de s’adapter à la politique de l’interdiction des médias sociaux pour les adolescents en Australie. Cependant, la menace de pénalités reste ouverte si les régulateurs estiment que cette mesure n’est pas suffisante.
Si cette règle est vraiment appliquée, l’Australie pourrait devenir l’un des premiers pays à forcer les boutiques d’applications mondiales telles qu’Apple à agir plus agressivement contre les applications d’IA pour la protection des mineurs.