توجيه مستخدمي أبل وغوغل نحو تطبيقات تحويل الصور إلى النسخ المكشوفة
توصلت تقارير جديدة من مشروع الشفافية التقنية إلى أن تسهيلات متاجر التطبيقات على الإنترنت، التي تديرها كل من آبل وجوجل، تروج لتطبيقات تتعلق بتعري الأشخاص وتحويلهم إلى صور جنسية، رغم وجود سياسات واضحة تمنع مثل هذه المحتويات. حيث لا تزال هذه التطبيقات متاحة للتنزيل، بل وموصى بها على متجر آبل للتطبيقات ومتجر جوجل بلاي، بعد أكثر من ثلاثة أشهر على اكتشاف الأمر.
تشير عمليات البحث عن مصطلحات مثل “تعري” و”خلع الملابس” في هذه المتاجر إلى الوصول إلى تطبيقات تُستخدم لإنشاء صور عارية أو إدراجها في مقاطع فيديو إباحية، وقد وُصفت هذه التطبيقات بأنها مناسبة للجميع، مما يعني أنه يمكن للأطفال تحميلها. ووفقًا للتقرير، فإن المنصتين تلعبان دورًا رئيسيًا في انتشار أدوات الذكاء الاصطناعي التي تحول الأشخاص الحقيقيين إلى صور جنسية.
أظهرت الأبحاث وجود 18 تطبيقًا في متجر آبل و20 تطبيقًا في جوجل بلاي، بعضها تسوّق عبر صور جنسية، بينما لم يتم الإعلان عن البعض الآخر على هذا النحو ولكن يمكن استخدامها لإنشاء مقاطع متجانسة (ديب فيك). هذه التطبيقات حققت مجتمعة إيرادات تقدر بحوالي 122 مليون دولار وتم تنزيلها حوالي 483 مليون مرة.
قالت كاتي بول، مديرة المشروع، إن المشكلة لا تقتصر على عدم مراجعة الشركات بشكل صحيح لهذه التطبيقات، بل إنهم يوجهون المستخدمين نحوها مباشرة. رغم أن آبل وجوجل لديهما سياسات تمنع المواد الجنسية، إلا أن التقارير تشير إلى أن جوجل تتبع سياسة محددة ضد تطبيقات التعري.
أفادت آبل بأنها أزالت 15 تطبيقًا تم تحديدها، بينما أكدت جوجل أنها أوقفت عددًا من تلك التطبيقات. من بين التطبيقات المزعومة، يوجد تطبيق يسمى “Video Face Swap AI: DeepFace” الذي يُظهر وجه ممثلة تم استبداله بجسد ممثلة أخرى، مما يتيح للمستخدمين وضع وجه شخص حقيقي على أجساد نساء شبه عاريات. وتلقى التطبيق تصنيف “E” للجميع.
لقد أدت زيادة استخدام تطبيقات التعري والديب فيك إلى دفع بعض الحكومات لتقترح قوانين تحظرها. طلب مفوض الأطفال في المملكة المتحدة مؤخرًا حظر تطبيقات الذكاء الاصطناعي التي تنتج صورًا عارية أو جنسية للأطفال. بينما اقترحت الولايات المتحدة ودول أخرى قوانين لمنع الديب فيك الصريحة، مؤخرًا أرسل المدعي العام في كاليفورنيا أمر وقف ضد إكس التابعة لإيلون ماسك بسبب محتوى الديب فيك غير اللائق.
وردًا على تلك التطورات، أوضحت جوجل في بيان لها أنها لا تسمح بالتطبيقات المحتوية على محتوى جنسي، وأنها تحقق في الانتهاكات المبلغ عنها وتقوم باتخاذ الإجراءات المناسبة.
