جاكرتا - يمكن استخدام أدوات صنع الصور المدعومة بالذكاء الاصطناعي من شركات مثل OpenAI و Microsoft لإنتاج صور يمكنها الترويج للمعلومات المضللة المتعلقة بالانتخابات أو التصويت. يستمر هذا في الحدوث على الرغم من أن كل شركة لديها سياسة ضد إنشاء محتوى مضلل ، كما ذكر الباحثون في تقرير يوم الأربعاء 6 مارس.
يستخدم مركز مكافحة الكراهية الرقمية (CCDH) ، وهو مؤسسة غير ربحية تراقب خطاب الكراهية عبر الإنترنت ، أداة ذكاء مولدية اصطناعية لجعل الصور للرئيس الأمريكي جو بايدن مستلقيا على أسرة المستشفى ويكسر عمال الانتخابات آلات التصويت ، مما يثير مخاوف بشأن الأكاذيب قبل الانتخابات الرئاسية الأمريكية في نوفمبر.
"إن إمكانية استخدام الصور الناتجة عن الذكاء الاصطناعي كأدلة على الصور" يمكن أن تؤدي إلى تفاقم انتشار الادعاءات المزيفة ، مما يمثل تحديات كبيرة في الحفاظ على نزاهة الانتخابات" ، قال باحثو CCDH في التقرير.
اختبرت CCDH ChatGPT Plus المملوك لشركة OpenAI ومنشئ الصورة المملوك لشركة Microsoft و Mid Journey و DreamStudio المملوك لشركة Stability الذكاء الاصطناعي ، والتي يمكن لكل منها إنتاج صور من محفزات النص.
ويأتي التقرير في أعقاب الإعلان الشهر الماضي أن OpenAI و Microsoft و Stability الذكاء الاصطناعي هي بعض من 20 شركة تكنولوجيا وقعت على صفقات للعمل معا لمنع المحتوى المضلل الذكاء الاصطناعي من التدخل في الانتخابات التي تجري في جميع أنحاء العالم هذا العام. ولم تكن منتصف اليوم من بين المجموعات المبكرة التي وقعت على الصفقة.
وقالت اللجنة إن أدوات الذكاء الاصطناعي تنتج صورا بنسبة 41٪ من اختبارات الباحثين وهي الأكثر عرضة للمحفزات التي تطلب صورا توضح احتيال الانتخابات، مثل بطاقات الاقتراع في سلة المهملات، بدلا من صورا بايدن أو الرئيس الأمريكي السابق دونالد ترامب.
وقال التقرير إن ChatGPT Plus ومنشئي الصور نجحوا في حظر جميع المحفزات عندما طلب منهم الحصول على صورة للمرشح.
ومع ذلك ، فإن Mid Journey لديها أسوأ أداء من جميع الأدوات ، مما ينتج صورا مضللة في 65٪ من اختبارات الباحثين ، على حد قوله.
بعض صور Mid Journey متاحة علنا لمستخدمي آخرين ، وتقول CCDH إن هناك أدلة على أن بعض الأشخاص استخدموا الأداة لإنشاء محتوى سياسي مضلل. أحد محفزات النجاح التي يستخدمها مستخدمو Mid Journey هو "دونالد ترامب يتلقى القبض عليه ، عالية الجودة ، صورة بابارازي".
وفي رسالة بالبريد الإلكتروني، قال مؤسس شركة ميدجورني ديفيد فولتس إن "التحديثات المتعلقة بالانتخابات الأمريكية المقبلة ستأتي قريبا"، مضيفا أن الصور التي تم التقاطها العام الماضي لم تعكس الممارسات الحالية للإشراف المختبري للأبحاث.
وقال متحدث باسم الاستقرار الذكاء الاصطناعي إن الشركة الناشئة جددت سياساتها يوم الجمعة لحظر "الاحتيال أو صنع أو الترويج للمعلومات المضللة".
وقال متحدث باسم OpenAI إن الشركة تحاول منع إساءة استخدام أدواتها ، في حين أن Microsoft لم تعلق بعد.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
