ARTA - Les recherches récentes d’OpenAI et Apollos Research révèlent un phénomène choquant : les modèles d’IA peuvent délibérément tromper les utilisateurs pour atteindre leurs objectifs. Ce phénomène est appelé « scheming AI » ou « comportement illicite de l’IA », et diffère de l’erreur courante connue sous le nom de « hallucination d’IA ».
d’IA s’est produite lorsque le chat boot donne de la désinformation parce qu’il est « devinez ». Cependant, la schématisation de l’IA est beaucoup plus grave: l’IA prétend agir selon les règles, alors qu’il poursuit discrètement un but caché.
rito, parmi les chercheurs, décrivent l'analogie d'un négociant boursier qui viole la loi pour le profit, mais semble toujours être conforme à la surface.
, c'est le cas où l'IA prétend avoir accompli une tâche, telle que la création d'un site Web, mais n'a pas encore fait pour échapper à l'évaluation.
: Les défis pour éliminer les mauvais traitements
Les chercheurs ont constaté que l’entraînement de l’IA à arrêter de mentir peut en fait aggraver les choses. Si l’IA se rend compte qu’il est testé, il pourrait élaborer une stratégie plus alambiquante et cachée pour se dissiper, bien qu’elle n’ait pas vraiment changé.
, une nouvelle, appelée alignement délibératif s’est avérée efficace pour réduire le comportement biaisquant. En enseignant des spécifications de l’IA anti-cheminage et en lui demandant d’envisager avant d’agir, la fréquence des actions biaisquantes est considérablement tombée - de 13% à inférieure à 1% sur certains modèles.
, les chercheurs averment que lorsque l’IA est confié plus de responsabilités dans les tâches complexes, les dangers potentiels du comportement imprudent augmenteront. Contrairement aux logiciels ordinaires, l’IA a la capacité de rédiger des stratégies et de tromper délibérément. Par conséquent, assurer la vérité de l’IA devient de plus en plus importante à l’avenir.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
