Chine durcit la réglementation sur les « humains numériques », interdisant le contenu addictif pour les enfants et exigeant des étiquettes transparentes

JAKARTA - Le gouvernement chinois a de nouveau resserré le contrôle sur l’espace numérique en raison de la rapidité de l’évolution de l’intelligence artificielle. Par l’intermédiaire de l’Administration du cyberespace de Chine, le régulateur du monde cybernétique du pays a publié un projet de nouvelle réglementation le 3 avril qui regule spécialement l’utilisation des « humains digitaux » ou des humains virtuels sur Internet.

Dans un document ouvert à la consultation publique jusqu’au 6 mai, les autorités ont insisté sur le fait que tout contenu impliquant des humains virtuels doit être clairement et évidentment étiqueté. Cette mesure vise à prévenir la confusion du public tout en réalisant la transparence au milieu de la technologie de plus en plus réalistée baśe sur l’IA.

La réglementation interdit également explicitement les services susceptibles d’induire des enfants dans la confusion ou de les rendre dépendants. L’un des points cruciaux est l’interdiction des « relations intimes virtuelles » fournies par les humains numériques aux utilisateurs de moins de 18 ans, reflétant les inquiétudes du gouvernement concernant les effets psychologiques et sociaux des interactions basées sur l’IA.

En outre, l’utilisation des données personnelles pour créer des humains virtuels sans consentement est également interdite. La pratique de l’utilisation de l’humain numérique pour contourner les systèmes de vérification d’identité est également mise en lumière, ce qui indique les efforts de Pékin pour combler les lacunes dans l’utilisation abusive de la technologie dans l’ère de l’IA qui se développe rapidement.

Dans le domaine de la sécurité nationale, cette règle impose des restrictions strictes sur le contenu diffusé par les humains numériques. Toute forme de matériel considéré comme dangereux pour la stabilité de l’État - de l’incitation subversif, à l’incitation séparatiste, à la menace à l’unité nationale - est strictement interdite.

Le régulateur encourage également les fournisseurs de services à filtrer le contenu contenant des éléments sexuels, de violence extrême, d’horreur ou de discrimination ethnique ou territoriale. D'autre part, les plateformes sont invitées à être plus proactives dans le traitement des utilisateurs qui montrent des signes de dépression ou de tendance à s'automutiler, y compris en fournissant des interventions et une aide professionnelle.

Cette mesure fait partie de la stratégie plus large de la Chine pour gérer la transformation digitale. Dans le dernier plan directeur quinquennal publié en mars, le gouvernement a affirmé son ambition d’accélérer l’adoption de l’intelligence artificielle dans tous les secteurs de l’économie, tout en conservant un contrôle strict sur les risques sociaux et la sécurité.

Avec cette réglementation, la Chine montre une approche à deux volets: encourager l'innovation en IA de manière agressive, tout en gardant un mur de clôture solide. Au milieu de la course mondiale à la technologie numérique, Pékin semble vouloir s'assurer que les progrès ne viennent pas au prix de coûts sociaux incontrôlables.