منصات التواصل الاجتماعي تستخدم الذكاء الاصطناعي لمكافحة التنمر الإلكتروني

أحد, 23/05/2021 - 16:50

يعتبر "التنمر الإلكتروني" (Cyberbullying) أحد المشاكل الكبرى التي تواجهها منصات التواصل الاجتماعي المختلفة، وهو امتداد لسلوك بشري موغل في القدم، ولكنه ازداد ضراوة مع الثورة الرقمية وبزوغ عصر وسائل التواصل الاجتماعي التي وفرت طرقا أكثر سهولة للمتنمرين حول العالم لممارسة سلوكياتهم التي تهدف إلى إيذاء الآخرين بطريقة متعمدة وعدائية ومتكررة.

وتفاقمت هذه المشكلة أثناء جائحة كورونا الأخيرة بسبب زيادة عدد المستخدمين، وكذلك وقت الفراغ الكبير الذي وجد معظم الناس أنفسهم يعيشون فيه أثناء فترات الحظر الطويلة، مما جعل مواقع التواصل المتنفس الأكثر شعبية للناس حول العالم، وكذلك زاد من عدد محاولات التنمر والإساءة والابتزاز بشكل كبير وغير مسبوق.

اقرأ أيضا

أخيرا.. فيسبوك تتحرك وتعين فريق مراقبين لحل الخلاف حول المحتوى الفلسطيني

خبيران تقنيان يحللان تقييدات المنصات الاجتماعية للمحتوى التضامني مع فلسطين

بعد إطلاق منصة غوغل وآبل لتتبع كورونا.. هل أصبح تعقب موقعنا الجغرافي من المسلّمات؟

حياة السود مهمة.. تحوّل إنستغرام من منصة ترفيه إلى السياسة

وتحاول هذه المواقع -بما فيها فيسبوك وإنستغرام ويوتيوب وتيندر وتيك توك وغيرها- معالجةَ المشكلة من خلال منح المستخدمين مزيدا من أدوات التحكم للسيطرة على حساباتهم، والحد من سطوة المتنمرين عبر الشبكة، ومؤخرا بدأت هذه المنصات باستخدام الذكاء الاصطناعي للسيطرة على المشكلة والحد منها من خلال استخدام خوارزميات مراقبة معينة تم تطويرها لرصد التعليقات والتصرفات المسيئة واللغة الضارة المستخدمة في محاولات التنمر، ومن ثم التدخل لكشفها ومنعها في الوقت المناسب.

تيك توك تسمح بحظر 100 مستخدم دفعة واحدة

أحدث هذه الجهود -التي تستخدم الذكاء الاصطناعي للحد من التنمر الإلكتروني- ما أعلنته شركة "تيك توك" (TikTok) في بيان صحفي لها نشر قبل بضعة أيام، وذلك ضمن جهودها الحثيثة لمكافحة التنمر الإلكتروني والمضايقات عبر منصتها، من خلال استحداث أداة جديدة تسمح للأشخاص في تطبيق الفيديو القصير ذو الشعبية الواسعة حول العالم بحظر عدة مستخدمين وحذف الكثير من التعليقات المؤذية في نفس الوقت.

وقالت الشركة -في البيان- إن المستخدمين المسجلين في المنصة سيكونون قادرين على اختيار نحو 100 تعليق يريدون حذفه أو الإبلاغ عنه، كما سيتمكن المستخدمون أيضا من حظر 100 شخص دفعة واحدة ممن يتسببون في مضايقتهم أو يحاولون التحرش بهم والتنمر عليهم.

شركة يوتيوب أعلنت عن إطلاق ميزات جديدة باستخدام خوارزميات الذكاء الاصطناعي لمحاربة التحرش في منصتها (وكالة الأناضول)

وعملية الوصول إلى هذه الأداة الجديدة التي أضافها التطبيق عملية سهلة؛ فما على المستخدم سوى الضغط مطولا على التعليق المسيء، أو النقر على أيقونة القلم الرصاص الموجودة في الزاوية اليسرى العليا من الفيديو، ومن هناك سيتم توجيه المستخدم إلى نافذة بها خيارات تتضمن حظر الذين يريد حظرهم، أو حذف التعليقات التي يراها مسيئة وغير مناسبة.

وقبل هذه الأداة الجديدة كانت عملية الإبلاغ عن المستخدمين المسيئين والتعليقات المستفزة عملية مملة وتأخذ وقتا طويلا بسبب محدوديتها، حيث كان على المستخدم حذف كل تعليق على حدة، أو حظر مستخدم واحد في كل مرة، ولكن مع هذه الأداة الجديدة فإن بامكان المستخدمين حذف وحظر عدد كبير من التعليقات والمتنمرين دفعة واحدة.

وكانت تيك توك قد طرحت في شهر مارس/آذار الماضي ميزة تصفية جميع التعليقات، إضافة إلى رصد التعليقات التي تحتوي على كلمات مسيئة، والطلب من الأشخاص -الذين يريدون نشرها- إعادةَ النظر في نشر ملاحظاتهم إذا كتبوا تعليقا مؤذيا.

وقالت تيك توك إن القدرة على حذف التعليقات المتعددة والإبلاغ عن المستخدمين بالجملة سيتم طرحها أولا في بريطانيا وكوريا الجنوبية وإسبانيا والإمارات العربية المتحدة وفيتنام وتايلاند، على أن يتم تعميمها على المستخدمين من كافة أنحاء العالم في الأسابيع المقبلة.

هل أنت متأكد؟

"هل أنت متأكد؟" (?are you sure) هي أحدث ميزة للسلامة ومحاربة التحرش التي أضافها موقع "تيندر" ( Tinder) وهو موقع المواعدة الأشهر في العالم، ومن خلالها يطلب من المستخدمين التوقف والتفكير مليا قبل إرسال رسالة يحتمل أن تكون مسيئة. وتهدف هذه الميزة إلى تقليل المضايقات عبر المنصة باستخدام الذكاء الاصطناعي للكشف عن اللغة الضارة والتدخل لمنع حدوث حالات الإساءة.

ومن خلال هذه الخاصية يتم توجيه رسالة تحذير للمرسل من أن رسالته قد تكون مسيئة، ويطلب منه التوقف والتفكير قبل الضغط على زر الإرسال، وأوضحت الشركة -التي تتخذ من كاليفورنيا مقرا لها- أن الذكاء الاصطناعي يتم تدريبه على ما أبلغ عنه المستخدمون في الماضي. وذكرت الشركة أيضا أن المستخدمين الذين شاهدوا رسالة "المطالبة بالتوقف" كانوا أقل عرضة للإبلاغ عن رسائل غير لائقة خلال الشهر التالي، وهو الأمر الذي أسهم بشكل كبير في منع التعليقات المسيئة.

وقدمت شركة تيندر أيضا خاصية "هل هذا يزعجك؟" (?Does This Bother You)، وهي الميزة التي وفرت الدعم للمستخدمين عند اكتشاف لغة مسيئة في الرسائل التي تلقوها.

كما استخدمت مواقع التواصل الأخرى -بما في ذلك إنستغرام ويوتيوب- تقنيات مماثلة لتحذير المستخدمين قبل نشر تعليقات مسيئة أو إجراء محاولات تحرش وتنمر إلكتروني باستخدام هذه المنصات، ففي شهر مارس/آذار الماضي ذكرت "إنستغرام" أنها سمحت للمستخدمين بحظر ومنع حسابات متعددة من القدرة على التعليق، وذلك ضمن جهودها الأوسع لمكافحة التنمر والتحرش على المنصة.

وفي ذات السياق، كانت شركة يوتيوب قد أعلنت عن إطلاق ميزات جديدة باستخدام خوارزميات الذكاء الاصطناعي لمحاربة التحرش في منصتها، كما تعتزم يويتوب اختبار فلتر جديد لتصفية التعليقات التي يحتمل أن تكون مسيئة والتي كان قد تم إيقافها للمراجعة بشكل تلقائي في وقت سابق، وهو الأمر الذي سيمكن الشركة من منع عدد كبير ولا محدود من محاولات الإساءة والتنمر الإلكتروني عبر منصتها.

المصدر : مواقع إلكترونية

إعلانات