“فيسبوك” تبدأ المعركة ضد “المحتوى الزائف”

بواسطة عالم التكنولوجيا آخر تحديث يناير 12, 2020

بدأ العالم في الشعور بالفزع الحقيقي من انتشار تقنيات “التزييف العميق” وسهولة الوصول إليها واستخدامها على يد قطاع واسع من المستخدمين، وقبل أن يتحول الأمر إلى مشكلة حقيقية في نشر الأكاذيب المصنوعة على شكل مقاطع فيديو بحرفية عالية، بدأت العديد من شركات التقنية الكبرى اتخاذ الإجراءات الكفيلة بمحاصرة هذا الاتجاه وتقليل أضراره إلى الحد الأدنى.

وفي منشور على المدونة الرسمية لشركة “فيسبوك”، أعلنت مونيكا بيكريت؛ نائبة رئيس إدارة السياسات العالمية للموقع، أن المحتوى الذي يتضمن “التزييف العميق” سوف ينضم إلى العري وخطاب الكراهية والصور العنيفة في قائمة المحتوى المحظور نشره على المنصة، وأن هذا الأمر يأتي لمكافحة وتحجيم انتشار مثل هذا المحتوى.

المفارقة أن “فيسبوك” اكتسبت سمعة كبيرة خلال السنوات الماضية في التعامل مع المشكلات بعد انفجارها بالفعل، سواء كان ذلك يتعلق بخطاب الكراهية أو حملات التأثير الروسية أو اختراق البيانات الشخصية للمستخدمين. ولكن في هذه المرة فإن الشركة تتحرك بشكل استباقي وقبل أن تتفاقم مشكلة “التزييف العميق”؛ لتكون قادرة على إنتاج أعمال مقنعة لدرجة خداع الغالبية العظمى من المشاهدين، وهو السيناريو المفزع الذي سيلغي قدرة البشر على التمييز بين الحقيقة والأكاذيب.

ومع ذلك ينظر البعض إلى هذه السياسة الجديدة باعتبارها لا تقدم جديدًا على أرض الواقع لمكافحة مقاطع الفيديو المزيفة بتلك التقنيات والتي تنتشر بشكل متزايد، لأن غالبية المقاطع المنتشرة حاليًا ترتبط بالمحتوى الإباحي من تركيب وجوه نساء على أجساد نساء أخرى، وهذا المحتوى الإباحي بشكل عام تمنعه المنصة تمامًا، سواء كان مزيفًا أو حقيقيًا. ولكن الجديد هنا هو تحديد “فيسبوك” للمقاطع التي ينطبق عليها الحظر الجديد والتي يجب أن تتوافق مع معيارين؛ أولًا: يجب أن تكون المعالجة دقيقة بدرجة لا يستطيع الشخص العادي كشفها ومن المرجح أن تؤدي إلى التضليل وإقناع المشاهد بأن شخصًا قال كلامًا لم يقله في الحقيقة، أما المعيار الثاني فهو ضرورة أن يكون الفيديو نتاج معالجة بالذكاء الاصطناعي أو آليات تعلم الآلة، وهو ما يستبعد العديد من مقاطع الفيديو المزيفة بطريقة رديئة لا تخدع أحدًا.

ويقول منشور “فيسبوك” بوضوح إن هذه السياسة الجديدة لا تنطبق على المقاطع التي تم تعديلها بغرض حذف أو تغيير ترتيب الكلمات، وذلك على الرغم من أن التغيير يمكن أن يكون مضللًا تمامًا، مثل المقاطع المزيفة بطريقة عميقة.

وعلى سبيل المثال، تم تداول مقطع فيديو للمرشح الرئاسي الأمريكي المحتمل جو بايدن؛ وهو يقول كلمات يمكن تفسيرها باعتبارها كراهية للأجانب مثل “ثقافتنا ليست مستوردة من بعض الدول الإفريقية أو الآسيوية”، ولكن بمراجعة كلمات الرجل في سياقها يكتشف المشاهد أنه كان يقول بوضوح إن على الأمريكيين ألا يلوموا إلا أنفسهم على عدم أخذ العنف الجنسي بجدية كافية.

ويقول بول باريت؛ خبير آليات التضليل السياسي، في تصريحات لمجلة “ويرد” الإلكترونية: “أعتقد أن إعلان فيسبوك هو خطوة في الاتجاه الصحيح، ولكن من المخيب للآمال ألا تتحرك المنصة في اتجاه إزالة المقاطع التي تم التلاعب بها باستخدام وسائل أقل تقدمًا”، مشيرًا إلى الفيديو الذي حقق انتشارًا واسعًا العام الماضي والذي يعرض نانسى بيلوسي؛ زعيمة الأغلبية في الكونجرس، وكأنها تتناسى الكلمات في خطابها.

من جانبها تقول “فيسبوك” إن مثل هذا النوع من المحتوى يخضع للتحقق من قِبل أطراف ثالثة خارجية، وأنه عندما يتم وضع علامة على الفيديو تشير إلى وجود مشاكل به يجب على المستخدم أن يضغط بالموافقة قبل مشاهدة الفيديو، لكن المنصة لن تحذف المنشور.

والحقيقة أنه ليس من الصعب معرفة الأسباب التي تجعل “فيسبوك” أكثر راحة في حظر أعمال التزييف العميق مقارنة بالتعامل مع أشكال الفيديو القديمة المزيفة؛ حيث إن نظام التعرف والاكتشاف الآلي الذي يفحص المقاطع لتبين تواجد آثار الذكاء الاصطناعي أسهل كثيرًا في الاعتماد عليه من التدخل البشرى لتقييم أصالة الفيديو ومعرفة ما هو صحيح أو زائف.

من ناحية أخرى، فإن سياسة الشركة حول المقاطع المزيفة تتجنب التفاعل مع فيديوهات المحاكاة الساخرة أو الهجاء، والتي تتطلب نوعًا من الحكم التفسيري الذي يخضع للذائقة والرؤية الفنية أكثر من القواعد الصارمة، وهو نوع الأحكام الذي تتخلى عنه الشركة لدرجة الاستعانة بأطراف خارجية لتدقيق الحقائق في المحتوى من هذا النوع.

من جهته، يرى سام جريجوري؛ مدير البرامج في إحدى منظمات حقوق الإنسان التي قدمت اقتراحات لفيسبوك فيما يتعلق بالأسلوب الأمثل لمكافحة مقاطع التزييف العميق، أن هذه السياسة جيدة، ولكنه يقول: “أعتقد أنه من الضروري أن تذكر المنصات الاجتماعية بوضوح كيف ستتعامل مع مقاطع التزييف العميق قبل أن تتحول إلى مشكلة شعبية واسعة الانتشار”، ومع ذلك فإن السياسة التي أعلنتها فيسبوك “لا تنطبق على غالبية المعلومات المزيفة والمضللة التي تنتشر عبر المنصة خاصة تلك التي يتم استخدامها عمدًا لإشعال التوترات، مثلما حدث في الهند عبر تداول الكثير من مقاطع الفيديو المزيفة عبر منصة “واتس آب” التي تمتلكها “فيسبوك”؛ لإذكاء الكراهية ضد المسلمين، وأن التعامل مع هذا النوع من المعلومات المضللة أكثر صعوبة ويتطلب سياسات أكثر تطورًا وأدوات أفضل، مثل إمكانية البحث العكسي عن الفيديو بما يساعد المهتمين في كشف عمليات الخداع بطريقة أسرع”.

وعندما يتعلق الأمر بالتزييف العميق، فإن الزمن وحده هو القادر على تحديد ما إذا كان التقييد الجديد الذي فرضه “فيسبوك” سيكون على قدر التحدي، والأمر لا يتعلق فقط بما إذا كانت التكنولوجيا التي تستخدمها المنصة ستكون قادرة على كشف المقاطع المزيفة باستخدام تقنيات الذكاء الاصطناعي بكفاءة ودرجة موثوقية عالية، ولكنه أيضًا يتعلق بالمستخدم وهل سيكون هناك قبول وثقة بأسباب حذف المحتوى من المنصة؟

القيود التي تفرضها المنصة على بعض أنواع وأنماط المحتوى أطلقت بالفعل موجات من الرفض والاعتراض بدعوى قيام الشركة بفرض رقابة على المحتوى، وغالبية هذه الاعتراضات تأتى من المحافظين الذين يشيرون إلى التحيز “الليبرالي” في شركات وادي السليكون، وتنفي الشركة دائمًا تدخل السياسة في قرارات حذف المحتوى وتؤكد أن الأمر يتعلق بسوء السلوك وانتهاك القواعد. وبالطبع لا يوجد سبب منطقي للتوقع بأن تسير الأمور بطريقة مختلفة عندما يتعلق الأمر بمحتوى التزييف العميق.

في الحقيقة، لا يمكن الفصل بين الاهتمام الكبير بالمعلومات المضللة وبين السياسة، خاصة عندما يتعلق الأمر بالمساءلة والانتخابات السياسية، وربما لا يكون من قبيل الصدفة أن تظهر تدوينة “مونيكا بيكريت” عن السياسة الجديدة التي ستنتهجها “فيسبوك” قبل أن تظهر هي شخصيًا أمام الكونجرس في جلسة استماع حول التلاعب والخداع عبر الإنترنت. ونظراً لأن الانتخابات الرئاسية الأمريكية تلوح في الأفق قبل نهاية هذا العام يصعب العثور على أي شخص مقتنع بأن “فيسبوك” سوف تلعب دورًا جيدًا في العملية الديمقراطية.

ومع الإعلان عن السياسة الجديدة يبدو أن الشركة تحاول إقناع الجميع بأنها جاهزة لمواجهة المهام الصعبة في الفترة المقبلة، ولكن الخبراء يقولون إنه على الرغم من التطور اللافت للشركة في الخروج بخطة للتصدي لتهديدات المستقبل إلا أن الجميع يتوقع منها أن تأتي بحلول للمشاكل التي يواجهها المستخدمون اليوم أيضًا.

المصدر: الرؤية

بعد قراءة الموضوع يمكنك معرفة المزيد عن الكلمات الآتية:

الرابط المختصر :

فيس بوك فيسبوك