Deepfake devient plus sophistiqué, le développement de l'IA agentique doit appliquer le principe de l'être humain dans le loop
JAKARTA - Le vice-ministre des Communications et de la Digitalisation, Nezar Patria, a insisté sur le fait que le développement des technologies d’intelligence artificielle, en particulier l’IA agenciée, doit maintenant appliquer le principe de l’humain dans le cercle.
Nezar estime que l’avancement de l’IA augmente la complexité des menaces de fraude digitale car la technologie est capable de produire du contenu faux difficile à distinguer de la réalité.
Il ajoute donc que l'approche éthique de l'IA n'est plus assez volontaire qu'au début du développement de la technologie.
« Maintenant, notre voix peut être reproduite, notre visage peut être reproduit et apparaître sous la forme d’un deepfake vidéo généré par l’IA très lisse », a déclaré Nezar, cit́é jeudi 18 juin.
En fait, Nezar a révélé que plusieurs experts avaient proposé l’application de protocoles plus stricts afin que les décisions importantes restent sous la surveillance humaine.
« L’incompétence de notre public sur le développement de l’IA a fait que beaucoup ont été trompés. C’est pourquoi les escroqueries sont si extraordinaires aujourd’hui. De nombreux experts proposent qu’un protocole assez strict soit mis en place, y compris l’application du principe de l’homme dans le processus décisionnel », a-t-il poursuivi.
Il a également insisté sur le fait que des principes tels que la transparence, la responsabilisation et la sécurité devaient être concrétisés dans le processus de développement des produits d’IA par une approche de l’éthique par la conception.
« Transparence, responsabilisation, sécurité, cela doit être présent dans l’implémentation, dans le développement d’un produit d’IA », a-t-il déclaré.
Le ministre Nezar a encouragé les développeurs, les acteurs de l’industrie, les universitaires et la communauté d’utilisateurs d’IA à renforcer la gouvernance et la mitigétion des risques depuis la phase de planification.