AI a commencé à apprendre à mentir, il est temps que les médias reviennent sur la voie de validation obligatoire

YOGYAKARTA - La scène technologique mondiale connaît un phénomène inquiétant, à savoir que l'IA (intelligence artificielle) a commencé à apprendre à mentir, à se comporter frauduleusement, ou même à menacer ses propres créateurs.

ne nous parlons pas de la science-fiction, mais de la réalité qui se passe. Comme l’a rapporté Fortune, si Cyber 4 (la dernière nouvelle nouvelle d’Anthropic) aurait menacé un ingénieur de démanteler le détournement lorsqu’il est menacé d’être éteint.

d’autre part, o1 d’OpenAI (créateur de chatGPT) a tenté de se télécharger sur un serveur extérieur et de le démenti lorsqu’il a été attrapé humide. Ces comportements soulignent une chose cruciale, à savoir:

am Al Jazeera a annoncé que “ deux ans après le choc du chatGPT, les chercheurs d’IA ne comprenaient toujours pas pleinement comment fonctionnent leurs créations, tandis que la course pour la diffusion de modèles plus puissants continue de rouler sans cesse.”

dans cette condition, il est temps que les médias de masse revienne sur la voie de validation obligatoire et inévitable. Alors, quel rôle et quel devrait être le rôle des médias d’agir au milieu de cette vague d’IA?

qui est capable de mensonger, de manipuler, même de créer des plans imprudents, place les médias dans une position plus excitante mais cruciale.

Comme l'intelligence artificielle devient de plus en plus sophistiquée dans la création de fausses racontes et la manipulation de l'information, le rôle des médias en tant que défenseurs de la vérité et en tant que validation de l'information devient insubstituible.

selon par Forbes, un chercheur nommé Greenblatt, fournit un exemple d’inquiétudes les plus réelles de mensonges d’IA. Imaginez un modèle d’IA futur qui, comme un employé ambitieux qui veut prendre un poste, apprend à jouer selon les règles de surveillance jusqu’à ce qu’il ait le pouvoir de agir de manière indépendante. Quand nous réalisons les vraies intentions, il peut être trop tard pour s’intervenir.

Greenblatt a expliqué que la fraude à l’IA est différente de la fraude humaine. Contrairement aux humains, l’IA n’a pas de motivation inhérente et n’a pas de désir inhérent de tromper. Son comportement pur est une fonction de son environnement de formation. Si la fraude à l’IA apparaît, c’est parce que nous avons construit un système qui apprécie accidentellement ce comportement.

an sur la base d’un exemple de troubles du phénomène d’IA qui a menti stratégiquement ci-dessus, il a ensuite exigé que les médias reviennent au fond du journalisme qui est une validation stricte et complète.

si l'IA peut faire de fausses preuves ou nier ses actes, il est du devoir des médias de renforcer le processus de vérification des faits, d'examiner toutes les informations provenant de diverses sources et d'investir dans des technologies et des ressources humaines capables de détecter la manipulation numérique.

: Le rôle des médias ne s'occupe plus de problèmes éthiques, mais d'une nécessité urgente de maintenir l'intégrité des informations publiques.

rénal, en plus de la validation, les médias ont également une grande responsabilité d’éduquer le public sur les potentiels de fraude par l’IA. Beaucoup de gens peuvent ne pas réaliser qu’IA non seulement commet des erreurs, mais peut également contrecarrer délibérément des informations.

. Pour cette raison, les médias doivent expliquer le phénomène des canulars et comment l’IA apprennent à tromper. En améliorant l’alphabétisation numérique des gens, les médias ont aidé le public à devenir plus critique et à ne pas croire facilement aux informations générées par l’IA sans vérification.

Cependant, conformément à ce que Fortune rapporte, les réglementations actuelles ne sont pas conçues pour faire face au problème de mensonges d’IA. La loi européenne sur l’IA, par exemple, se concentre davantage sur la façon dont les humains utilisent les modèles d’IA, plutôt que sur la prévention du modèle lui-même de ne pas se comporter mal.

Aux États-Unis, l’administration Trump a montré peu d’intérêt pour les réglementations urgentes sur l’IA, et le Congrès pourrait même interdire à l’État de créer ses propres règles sur l’IA.

Alors, à votre avis, quelles mesures concrètes sont les plus urgentes pour les médias indonésiens aujourd'hui pour faire face à ces défis?

prononçant par VOI, vous pouvez vous informer sur les mensonges, suivez d'autres articles intéressants. Vous voulez connaître d'autres informations intéressantes? Ne vous laissez pas, surveillez les mises à jour depuis VOI et suivez tous ses comptes de médias sociaux!