رفعت ولاية نيو مكسيكو فى ديسمبر الماضى دعوى قضائية ضد شركة ميتا لفشلها في حماية الأطفال، زاعمة أن خوارزميات فيسبوك وإنستجرام أوصت بمحتوى جنسي للقاصرين.
وتم الكشف عن عرض تقديمي داخلي، حيث يقدر موظفو الشركة أن 100 ألف مستخدم من الأطفال يتعرضون للمضايقات يوميًا، حسبما ذكرت صحيفة وول ستريت جورنال.
وفقًا لوثيقة داخلية لعام 2021، تم اختيار خوارزمية "أشخاص قد تعرفهم" (PMYK) الخاصة بفيسبوك باعتبارها الرابط الأساسي بين الأطفال والمعتدين، عندما أبلغ الموظفون المديرين التنفيذيين في شركة Meta بهذه النتائج، رفضوا التوصيات بإعادة تصميم الخوارزمية للتوقف عن التوصية بالبالغين للقاصرين.
وكانت هذه الميزة مسؤولة عن 75 % من جميع الاتصالات غير المناسبة بين البالغين والقاصرين، وفقًا لأحد الموظفين. "كيف لم نقم بإيقاف تشغيل هذه الخوارزمية بين البالغين والأطفال؟" قال موظف آخر، وأضاف آخر: "إنه أمر مزعج حقًا".
كانت المشكلات خبيثة بشكل خاص على Instagram، وفقًا لمذكرة داخلية لعام 2020، مع انتشار "الحديث الجنسي" على تلك المنصة 38 مرة أكثر من Facebook Messenger في الولايات المتحدة.
في إحدى الحالات، أفاد أحد المسؤولين التنفيذيين في شركة Apple أن طفله البالغ من العمر 12 عامًا قد تم استدراجه عبر موقع Instagram.
قال أحد الموظفين المكلفين بمعالجة المشكلة: "هذا هو الشيء الذي يثير غضب شركة Apple إلى حد التهديد بإزالتنا من متجر التطبيقات".
وتدعي نيو مكسيكو، أن ميتا فشلت في معالجة الاستغلال واسع النطاق على منصتها، خاصة فيما يتعلق بخوارزميات التوصية.
أنشأ محققو الولاية في الأصل حسابات زائفة للأطفال، وقدموا تواريخ ميلاد للبالغين، حيث غالبًا ما يخطئ الأطفال في كتابة أعمارهم للوصول إلى الخدمات عبر الإنترنت التي ليس من المفترض أن يفعلوها.
بعد ذلك، أشاروا ضمنًا إلى أن الحسابات كانت تستخدم من جانب الأطفال، حيث نشر أحدهم عن فقدان أحد أسنان الطفل ويبدأ في الصف السابع.
وزعمت الدعوى، من بين أمور أخرى، أن الحسابات أرسلت صورًا جنسية للأطفال وعروضًا للدفع مقابل ممارسة الجنس.
وتزعم الولاية أيضًا، أن قادة ميتا لم يتخذوا إجراءات للحد من اعتداء البالغين للقاصرين حتى أواخر عام 2022، وما زالوا لم يصلوا إلى حد الإجراء الصارم الذي أوصى به موظفو السلامة.
وبدلاً من ذلك، حاولت فقط حظر الاقتراحات للبالغين الذين أظهروا سابقًا سلوكًا مشبوهًا تجاه الأطفال.
ومع ذلك، وفقًا لدراسة ميتا، فإن 99 % من الحسابات التي تم تعطيلها بسبب استمالة الأطفال فشلت في تحديد أعمارهم.
وقدمت Meta مؤخرًا إجراءات للمستخدمين المراهقين على Instagram وFacebook، بما في ذلك منع غير المتابعين من مراسلتهم وحظر التعليقات المسيئة، لكن علاوة على شكوى نيو مكسيكو، تواجه ميتا دعاوى قضائية من 41 ولاية تشكو من أنها تضر بالصحة العقلية لمستخدميها الأصغر سنا.
