JAKARTA - OpenAI a averti que la nouvelle génération de ses modèles d’intelligence artificielle pourrait présenter un risque majeur pour la cybersécurité, car les capacités d’IA deviennent plus rapides et plus complexes.
Dans un billet de blog mercredi 10 decembre, l’entreprise soutenue par Microsoft a exprimé son inquiétude quant au fait que les futurs modèles pourraient developper des exploitations zero-day capables de percer des systèmes de défense de haut niveau, ou aider des opérations de hackénage d’entreprise à l’industrie avec un impact réel sur le monde physique.
L'alerte arrive dans le sillage de discussions mondiales sur la question de savoir comment l'IA peut être utilisée de manière offensive par des acteurs malveillants. OpenAI estime que ses capacités se sont développées au-delà des scènes d'expériences de laboratoire et commencent à se rapprocher de la « capacité réelle » qui pourrait avoir des consquènées graves si elle était utilisée de manière incorrecte.
OpenAI a déclaré qu’il investissait dans le renforcement du modelé pour la défense cybernétique, y compris des outils qui simplifient pour les développeurs et les equipeś de securité de déceler le code et de réparer les failles de securité. Les stratégies de mitigation comprennent le controle de l’accès, le renforcement de l’infrastructure, la limitation des récentes de données et la surveillance plus rigoureuse des activités du modelé.
La société a également annoncé son intention de lancer un nouveau programme qui accorde un accès à plusieurs niveaux aux utilisateurs ou organisations considerées comme éligibles et se concentre sur la défense cybernétique. Cet accès comprendra des capacités avancées considerées comme trop sensibles pour une utilisation commune.
Afin de surveiller les efforts de mitigation des risques de la frontière de l’IA, OpenAI constituera un Frontier Risk Council, un groupe consultatif composé de praticiens expérimentés de la cybersécurité. Ce conseil travaillera directement avec l’équipe interne d’OpenAI et, dans un premier temps, se concentrera sur les risques de cybersécurité avant de s’étendre aux autres domaines de compétence de la frontière.
L’appel ouvert d’OpenAI ajoute l’urgence à la discussion sur la façon de maintenir l’équilibre entre l’innovation en IA et la sécurité, alors que cette technologie avance plus vite que le cadre réglementaire dans de nombreux pays. Les dialogues liés au contrôle des risques, à la transparence et à la gouvernance de l’IA devraient prendre de l’ampleur dans un avenir proche, alors que l’industrie commence à faire face au côté obscur de l’intelligence artificielle générative.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
