غوغل تحارب المحتوى المسيء للأطفال عبر الذكاء الاصطناعي

أطلقت شركة‮ ‬غوغل‭ ‬برنامج ذكاء اصطناعي‭ ‬مجاني‮ ‬مصمم‭ ‬لمساعدة المشرفين البشريين الذين‮ ‬يعملون على تحديد المحتوى المسيء للأطفال وإزالته،‮ ‬حيث تعتبر عملية إزالة المواد المسيئة للأطفال أولوية بالنسبة لشركات الإنترنت الكبيرة،‮ ‬ولكنها في‮ ‬الوقت نفسه تعد مهمة صعبة ومرهقة لأولئك المشرفين،‮ ‬إذ تعمل معظم الحلول التقنية في‮ ‬هذا المجال عن طريق التحقق من الصور ومقاطع الفيديو بالاعتماد على قائمة بالمواد المسيئة التي‮ ‬تم تحديدها مسبقًا مثل‮ ‬PhotoDNA،‮ ‬وهي‮ ‬أداة تم تطويرها بواسطة مايكروسوفت وجرى اعتمادها من قبل شركات مثل فيسبوك وتويتر‮. ‬وتعد هذه النوعية من البرامج التي‮ ‬تستعرض الويب بشكل منهجي‮ ‬من أجل إنشاء فهرس للبيانات بمثابة طريقة فعالة لمنع الأشخاص الذين‮ ‬ينشرون محتوى مسيء للأطفال تم تحديده مسبقًا،‮ ‬ولكن هذه البرامج تعاني‮ ‬من أنها‮ ‬غير قادرة على تحديد المواد التي‮ ‬لم‮ ‬يتم تحديدها مسبقًا على أنها‮ ‬غير قانونية،‮ ‬لذلك‮ ‬ينبغي‮ ‬على المشرفين البشريين التدخل ومراجعة المحتوى بأنفسهم‮. ‬ويساعد برنامج الذكاء الاصطناعي‮ ‬الجديد من‮ ‬غوغل في‮ ‬هذه النقطة،‮ ‬إذ تحاول الشركة،‮ ‬باستخدام خبرتها في‮ ‬مجال تقنيات الرؤية الحاسوبية،‮ ‬مساعدة المشرفين البشريين في‮ ‬عملية فرز الصور ومقاطع الفيديو التي‮ ‬تم الإبلاغ‮ ‬عنها مسبقًا،‮ ‬والتركيز بشكل كبير على مراجعة المحتوى المسيء للأطفال،‮ ‬الأمر الذي‮ ‬من شأنه السماح بإجراء عملية المراجعة بسرعة أكبر بكثير من السابق‮. ‬ووفقًا للشركة فقد ساعد برنامج الذكاء الاصطناعي‮ ‬الجديد في‮ ‬إحدى التجارب المشرف على اتخاذ إجراء بشأن محتوى مسيء للأطفال بشكل أكبر بنسبة‮ ‬700‮ ‬في‮ ‬المئة خلال الفترة الزمنية نفسها،‮ ‬وقال فريد لانغفورد‮ ‬Fred Langford،‮ ‬نائب الرئيس التنفيذي‮ ‬لمؤسسة مراقبة الإنترنت‮ ‬IWF،‮ (‬إن البرنامج سيساعد الفرق البشرية مثلنا ذات الموارد المحدودة بكفاءة أكبر بكثير،‮ ‬حيث أننا نستخدم في‮ ‬الوقت الحالي‮ ‬العنصر البشري‮ ‬فقط لتحديد المحتوى‮). ‬وتعتبر مؤسسة مراقبة الإنترنت‮ ‬IWF‮ ‬واحدة من أكبر المنظمات المتخصصة في‮ ‬وقف انتشار المحتوى المسيء للأطفال عبر الإنترنت،‮ ‬ويقع مقرها في‮ ‬المملكة المتحدة،‮ ‬لكنها تحصل على تمويل ومساهمات من كبرى شركات التكنولوجيا العالمية،‮ ‬بما في‮ ‬ذلك‮ ‬غوغل،‮ ‬وتوظف فريقًا من المشرفين البشريين لتحديد الصور المسيئة،‮ ‬وتعمل ضمن أكثر من‮ ‬12‮ ‬بلدًا حول العالم،‮ ‬مع حصولها على بلاغات من قبل مستخدمي‮ ‬الإنترنت حول المواد المشبوهة‮. ‬ويقول فريد لانغفورد إنه نظرًا لما‮ ‬يجري‮ ‬الحديث عنه حول الذكاء الاصطناعي‮ ‬وإمكانياته فإن‮ ‬IWF‮ ‬سوف تختبر هذا البرنامج لمعرفة كيفية أدائه وتوافقه مع سير عمل المشرفين البشريين،‮ ‬وأضاف أن أدوات مثل هذه كانت خطوة نحو أنظمة مؤتمتة بالكامل‮ ‬يمكنها تحديد المواد التي‮ ‬لم‮ ‬يتم مشاهدتها من قبل دون تفاعل إنساني،‮ ‬لكنه أضاف أنه لا‮ ‬يجب الوثوق بهذه الأدوات إلا في‮ ‬القضايا الواضحة لتجنب ترك المواد المسيئة تنتشر عبر الشبكة‮. ‬ويعتمد برنامج‮ ‬غوغل الجديد على الشبكات العصبونية العميقة‮ ‬DNN،‮ ‬وتخطط الشركة لتوفيره بشكل مجاني‮ ‬للمنظمات‮ ‬غير الحكومية‮ ‬NGO‮ ‬وغيرها من شركاء الصناعة،‮ ‬بما في‮ ‬ذلك شركات التكنولوجيا الأخرى،‮ ‬وتأتي‮ ‬هذه الخطوة في‮ ‬الوقت الذي‮ ‬تواجه فيه عملاقة البحث انتقادات متزايدة بسبب دورها في‮ ‬مساعدة المجرمين على نشر المواد المسيئة للأطفال عبر الويب‮.‬