جاكرتا - فتح التحقيق الأخير ثغرة خطيرة في نظام اعتدال Apple. لم يتمكن عدد من التطبيقات المستندة إلى الذكاء الاصطناعي القادرة على إنشاء محتوى إباحي deepfake دون موافقة الضحية من المرور فقط على App Store ، ولكنها نشطة أيضا في الإعلان وتظهر في نتائج البحث للمستخدمين.
كشف تقرير من منظمة Tech Transparency Project للبحوث أن المستخدمين يكفيهم كتابة كلمات رئيسية مثل "deepfake" للعثور على التطبيقات التي يمكن استخدامها في التلاعب بوجه شخص ما في محتوى صريحة. والأكثر إثارة للقلق، تم تصنيف بعض التطبيقات حتى على أنها آمنة للأطفال.
وتعزز هذه الظاهرة الانتقادات بأن نظام مراجعة التطبيقات التابع لشركة أبل فشل في أداء وظيفته الأساسية كحارس للنظام البيئي للتطبيقات.
ثغرة كبيرة في App Store
أظهرت التجربة التي أجراها الباحثون مدى سهولة حدوث سوء الاستخدام. يسمح أحد تطبيقات تحويل الوجه للمستخدمين بتحميل مقاطع فيديو صريحة واستبدال الوجه بصور لأشخاص آخرين - دون أي تحذيرات أو تحقق أو قيود.
لا توجد إخطارات ، ولا توجد مرشحات للمحتوى ، ولا حتى آليات وقائية أساسية. في سياق القانون والأخلاقيات ، من الواضح أن هذا يقع في منطقة رمادية يمكن أن تنتهك الخصوصية وتفتح الباب أمام الاستغلال الرقمي.
المشكلة ليست فقط في التكنولوجيا ، ولكن في التوزيع الذي يسهله منصات كبيرة.
إعلان الطريق المستمر
مما يجعل الوضع أكثر سخافة ، تظهر هذه التطبيقات أيضًا في فتحات الإعلانات المدفوعة في App Store. هذا يعني أن المطورين لا يتم اختيارهم فقط ، ولكن يمكنهم أيضًا شراء الرؤية المباشرة للمستخدمين.
وتظهر بيانات التحقيق أن حوالي 31 تطبيق "nudify" تم العثور عليه نشطا، مع إجمالي مرات التنزيل تصل إلى مئات الملايين من المرات والإيرادات الإجمالية تزيد عن 120 مليون دولار أمريكي.
وبشكل غير مباشر، تستفيد أبل من الإيرادات من هذا النظام البيئي - وهو وضع يمكن أن يكون له عواقب وخيمة وسط تزايد الضغوط التنظيمية العالمية على المنصات الرقمية.
ليس القضية الأولى
في وقت سابق ، أزالت أبل عشرات التطبيقات المماثلة وحتى حذرت شركات الذكاء الاصطناعي مثل xAI من مشاكل deepfake في تطبيقاتها.
ومع ذلك، تشير النتائج الأخيرة إلى أن هذه الخطوة ليست كافية. يبدو أن الاعتدال رد فعل، وليس وقائي.
في حين أن التكنولوجيا الحقيقية المتقدمة تتطور بسرعة وتصبح أكثر صعوبة في التمييز بين المحتوى الأصيل - مما يجعلها أداة خطيرة إذا سقطت في الأيدي الخطأ.
ظهرت القضية في الوقت الذي بدأت فيه الحكومات في مختلف البلدان في تشديد القواعد على محتوى الذكاء الاصطناعي ، خاصة فيما يتعلق بالاستغلال الجنسي وخصوصية الأفراد.
إذا فشلت شركة أبل في إصلاح نظامها، فمن غير المرجح أن يكون تدخل المنظمين أكثر عدوانية - بما في ذلك احتمال مراقبة خارجية لعملية مراجعة التطبيقات.
لم تعد مشكلة deepfake قضية متخصصة في المنتديات على الإنترنت. لقد دخلت منصة رئيسية ، متوفرة في نقرة واحدة ، - بشكل مثير للسخرية - يتم الترويج لها.
تابع قناة WhatsApp VOI
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
