جوجل تطلق برنامج جديد لمحاربة المحتوى المسيء للأطفال

أطلقت شركة جوجل برنامج ذكاء اصطناعي مجاني مصمم لمساعدة المشرفين البشريين الذين يعملون على تحديد المحتوى المسيء للأطفال وإزالته،

حيث تعتبر عملية إزالة المواد المسيئة للأطفال أولوية بالنسبة لشركات الإنترنت الكبيرة، ولكنها في الوقت نفسه تعد مهمة صعبة ومرهقة لأولئك المشرفين، إذ تعمل معظم الحلول التقنية في هذا المجال عن طريق التحقق من الصور ومقاطع الفيديو بالاعتماد على قائمة بالمواد المسيئة التي تم تحديدها مسبقًا مثل PhotoDNA، وهي أداة تم تطويرها بواسطة مايكروسوفت وجرى اعتمادها من قبل شركات مثل فيسبوك و تويتر.

تحاول الشركة، باستخدام خبرتها في مجال تقنيات الرؤية الحاسوبية، مساعدة المشرفين البشريين في عملية فرز الصور ومقاطع الفيديو التي تم الإبلاغ عنها مسبقًا، والتركيز بشكل كبير على مراجعة المحتوى المسيء للأطفال، الأمر الذي من شأنه السماح بإجراء عملية المراجعة بسرعة أكبر بكثير من السابق.

ووفقًا للشركة فقد ساعد برنامج الذكاء الاصطناعي الجديد في إحدى التجارب المشرف على اتخاذ إجراء بشأن محتوى مسيء للأطفال بشكل أكبر بنسبة 700 في المئة خلال الفترة الزمنية نفسها، وقال فريد لانغفورد Fred Langford، نائب الرئيس التنفيذي لمؤسسة مراقبة الإنترنت IWF، “إن البرنامج سيساعد الفرق البشرية مثلنا ذات الموارد المحدودة بكفاءة أكبر بكثير، حيث أننا نستخدم في الوقت الحالي العنصر البشري فقط لتحديد المحتوى”.

وتعتبر مؤسسة مراقبة الإنترنت IWF واحدة من أكبر المنظمات المتخصصة في وقف انتشار المحتوى المسيء للأطفال عبر الإنترنت، ويقع مقرها في المملكة المتحدة، لكنها تحصل على تمويل ومساهمات من كبرى شركات التكنولوجيا العالمية، بما في ذلك جوجل، وتوظف فريقًا من المشرفين البشريين لتحديد الصور المسيئة، وتعمل ضمن أكثر من 12 بلدًا حول العالم مع حصولها على بلاغات من قبل مستخدمي الإنترنت حول المواد المشبوهة.

ويعتمد برنامج جوجل الجديد على الشبكات العصبونية العميقة DNN، وتخطط الشركة لتوفيره بشكل مجاني للمنظمات غير الحكومية NGO وغيرها من شركاء الصناعة، بما في ذلك شركات التكنولوجيا الأخرى، وتأتي هذه الخطوة في الوقت الذي تواجه فيه عملاقة البحث انتقادات متزايدة بسبب دورها في مساعدة المجرمين على نشر المواد المسيئة للأطفال عبر الويب.