«فيسبوك» تطوِّر الذكاء الصنعي لكشف تجاوزات البث المباشر

تعكف شركة "فيسبوك" حاليًّا على تطوير طريقة تلقائية تسمح بتحديد المواد غير القانونية والمسيئة والتجاوزات في فيديوهات البث المباشر التابع للشركة "لايف" Facebook Live عبر استخدام تقنيات الذكاء الصنعي التي ستوجه إلى مراقبة المحتوى، وذلك وفقًا لخواكين كانديلا مدير تقنيات تعلم الآلة التطبيقية.

 
وواجهت منصة التواصل الاجتماعي هذا العام عددًا من الخلافات والمشكلات المتعلقة بالإشراف على المحتوى، حيث تعرَّضت لموجة غضب دولي بعد إزلتها لصورة متعلقة بالحرب الفيتنامية بسبب العري إلى جانب المشكلات المتعلقة بسماحها بانتشار الأخبار المزيفة على موقعها.

واعتمدت "فيسبوك" تقليديًّا على مستخدمي المنصة في سبيل إبلاغ الشركة عن التدوينات والمشاركات العدوانية المخالفة لسياسات الموقع، ليتم بعدها فحصها من قبل موظفي "فيسبوك" فيما إذا كانت تتماشى مع معايير مجتمع الموقع.

ويتولى كبار المسؤولين التنفيذيين في المنصة الاجتماعية اتخاذ القرارات المتعلقة بقضايا المحتوى، وخصوصًا الشائكة منها، والتي قد تتطلب تغييرات في السياسية المتبعة ضمن الشركة.

وأشار كانديلا إلى أنَّ "فيسبوك" تعمَّد بشكل متزايد استخدام الذكاء الصنعي لتحديد وإيجاد المحتوى والمواد المسيئة، وذلك عن طريق خوارزمية تقوم بالكشف عن العري والعنف أو أي شئ من الأشياء التي لا تتناسب مع سياسة مجتمع فيس بوك.

وتعمل الشركة بشكل فعلي منذ عدة أشهر على استخدام الأتمتة لتحديد محتوى الفيديوهات المتطرفة، ويجري حاليًّا اختبار ذلك النظام الآلي على خدمة البث المباشر التابعة لمنصة التواصل الإجتماعي "فيسبوك لايف".

ووفقًا لكانديلا، فإنَّ استخدام الذكاء الصنعي لتحديد فيديوهات البث المباشر المسيئة مازال في مرحلة الأبحاث، ويواجه حاليًّا عدة تحديثات مثل وجوب كون خوارزمية الرؤية الحاسوبية سريعة بما فيه الكفاية ويمكننا العمل على هذه الجزئية، كما أنَنا بحاجة إلى تحديد الأولويات بشكل صحيح بتشابه مع ما يراه الإنسان الخبير الفاهم لسياسة الموقع ويأخذ القرار بناءً على تلك الرؤية.