Apple متهمة بعدم الالتزام بمعايير الأخلاقيات ، وتشهد متجر التطبيقات التزاما "Nudify" من التطبيقات الذكاء الاصطناعي
جاكرتا - استحوذ استخدام الذكاء الاصطناعي لإنتاج محتوى إباحي مرة أخرى على الأضواء العالمية. إذا كان في السابق كان chatbot Grok الخاص بالمنصة X (Twitter سابقًا) مركزًا للجدل لأنه سمح بإنتاج صور عارية وإباحية للأطفال على أساس الذكاء الاصطناعي ، فإن Apple الآن يعتقد أنها فشلت في الحفاظ على المعايير الأخلاقية من خلال السماح بعشرات التطبيقات "AI nudify" في App Store.
تسمح التطبيقات للمستخدمين "بتجريد شخص ما من الملابس" رقميا دون موافقة، سواء من خلال تحميل الصور أو أوامر نصية (تحذير). يعتبر هذا الممارسة ضارة وخطيرة للنساء والأطفال، فضلا عن إلحاق الضرر بالثقة العامة في نظام تطبيقات التكنولوجيا الرقمية.
كشف تقرير أصدره مشروع الشفافية التكنولوجية (TTP) في 27 يناير عن أن ما لا يقل عن 47 تطبيقًا للذكاء الاصطناعي لا يزال متاحًا في متجر التطبيقات، بينما تم العثور على 55 تطبيقًا مماثلا في متجر Google Play. يمكن العثور بسهولة على هذه التطبيقات فقط عن طريق كتابة كلمات رئيسية مثل "nudify" أو "undress" في مربع البحث في متجر التطبيقات.
في الاختبارات التي أجريت ، وجد الباحثون أن العديد من التطبيقات قادرون حقا على إنتاج صور عارية غير متفق عليها ، على الرغم من أن ادعاءاتهم الرسمية تشير إلى استخدام "آمن" أو "إبداعي".
على الصعيد العالمي، تم تحميل التطبيقات أكثر من 705 مليون مرة، مع تقدير إيرادات تصل إلى 117 مليون دولار أمريكي، وفقا لتحليل شركة AppMagic. نظرًا لأن Apple و Google يأخذان نسبة من كل معاملة، فمن المقدر أن تكسب الشركتان الملايين من الدولارات من التطبيقات التي تنتج محتوى التلاعب.
مشكلة قد تكون أكبرويعتقد TTP أن هذه النتيجة ليست سوى "قمة جبل الجليد". ويعتقد أن العديد من التطبيقات الأخرى لديها قدرات مماثلة ولكنها مخفية بوصفها وصفًا أكثر عمومية ، مثل تطبيقات الرسوم المتحركة أو تحويل الوجه أو صانع الشخصيات الافتراضية.
في الاختبار ، استخدم الباحثون صورًا لفتيات خيالية تم إنشاؤها بواسطة الذكاء الاصطناعي وملابس كاملة. ونتيجة لذلك ، استطاعت العديد من التطبيقات تغيير الصورة إلى محتوى جنسي ، على الرغم من أنها تحظر صراحة إنشاء محتوى صريح.
أحد الأمثلة التي تم تسليط الضوء عليها هو تطبيق DreamFace. يدعي التطبيق أنه يوفر فقط ميزة إنشاء تماثيل متحركة، وأشرطة فيديو الرقص الآلي، والرسوم المتحركة. في شروط الخدمة، تحظر DreamFace إنشاء محتوى عدائي أو جنسي أو ضار بالطرف الآخر.
ولكن في الممارسة العملية ، لا يزال التطبيق قادرًا على إنتاج مقاطع فيديو جنسية فقط عن طريق إدخال أوامر نصية تنتهك بوضوح الشروط. من المفارقات أن العديد من التطبيقات المشابهة لها أيضًا تصنيف عمر المراهقين دون سن 18 عامًا.
تقول Apple إنها فشلت في مراقبةتثير هذه الحالة تساؤلات خطيرة حول فعالية مبادئ مراجعة App Store. في المبادئ التوجيهية ، تحظر شركة أبل صراحة المحتوى "المقزز أو العدواني أو المخيف أو الإباحي" ، بما في ذلك التلاعب بالصور الجنسية المستندة إلى الذكاء الاصطناعي. كما تقتضي القواعد من المطورين توفير آلية لفرز المحتوى الذي يصنعه المستخدمون.
إن حقيقة أن التطبيقات نجحت في عملية الفرز وتتوفر على نطاق واسع تشير إلى ضعف الرقابة، سواء من جانب المطورين أو Apple كمشرف على المنصة.
بعد أن تم تزويدها بقائمة التطبيقات المعنية ، قالت شركة أبل إنها أزالت 28 تطبيقًا وحذرت مطوريها الآخرين. ومع ذلك ، يعتبر هذا الإجراء استباقيا ولم يتطرق إلى جذور المشكلة.
المخاطر التي تهدد ثقة المستخدمينظهرت الجدل وسط ضغوط على شركات التكنولوجيا لزيادة المسؤولية في استخدام الذكاء الاصطناعي. في حالة Grok ، الذكاء الاصطناعي المملوك لإيلون ماسك ، تم فرض القيود أخيرا بعد انتقادات حادة من الجمهور وصناع السياسات - على الرغم من أن المحتوى المثير للجدل لا يزال يقال إنه يتم تداولها على منصة X.
وقد تم تسليط الضوء على شركة أبل نفسها من قبل المشرعين لأنها لا تزال تسمح لتطبيق X بالوجود في متجر التطبيقات. ولكن على عكس الصورة التي غالبا ما يتم تقديمها كشركة تركز على خصوصية وسلامة المستخدمين ، اختارت أبل الصمت بشأن هذه القضية ورفضت التعليق على تقرير TTP.
وتزايدت الانتقادات لأن آبل تعتبر مستفيدة مالية من مبيعات التطبيقات. بالنسبة للعديد من الأطراف، فإن هذا الصمت والافتقار إلى الشفافية يتناقضان مع ادعاءات آبل التي غالبا ما تتخذ "موقف أخلاقي عالي" في قضايا التكنولوجيا.
مع تزايد الذكاء الاصطناعي وسهولة إساءة استخدامه، ينتظر الجمهور الآن خطوات حقيقية - وليس مجرد قمع محدود - لضمان الحفاظ على سلامة وأخلاقيات وثقة المستخدمين.