يثير الانتشار المتزايد لمقاطع الفيديو منخفضة الجودة التي ينتجها الذكاء الاصطناعي عبر منصات التواصل الاجتماعي مخاوف بشأن تأثيرها في الأطفال. خاصة مع تعرضهم المستمر لسيل من المحتوى المكرر والمبتذل الذي تنتجه الخوارزميات.
ويرى تحليل جديد أجراه باحثون في الشبكة العالمية المعنية بالتطرف والتكنولوجيا GNET. أن بعض هذه المقاطع قد تتحول إلى وسيلة خفية لنشر محتوى عنيف ومتطرف بين المستخدمين الشباب.
مقاطع فاكهة تتحول إلى محتوى عنيف
تبدو نسبة كبيرة من مقاطع الفيديو التي ينتجها الذكاء الاصطناعي غير ذات أهمية. إذ تعتمد على شخصيات فاكهة وخضراوات ملونة تظهر في قصص درامية مبتذلة تتناول موضوعات مثل العلاقات العاطفية وفقدان الوظيفة والمشكلات الأسرية.
لكن محللي GNET رصدوا تزايد مقاطع يمكن وصفها بـ”عنف الفاكهة والخضراوات المدعوم بالذكاء الاصطناعي”. والتي تتضمن مشاهد للتعذيب والتشويه وأشكالًا أخرى من العنف الوحشي، وفقًا لموقع Futurism.
شخصيات مرتبطة بأيديولوجيات عنيفة
وأشار الباحثون إلى أن المحتوى لا يقتصر على مشاهد عنف عشوائية، إذ تتضمن بعض المقاطع شخصيات مرتبطة بجماعات أو أيديولوجيات عنيفة. من بينها عصابات الجريمة المنظمة وبعض جماعات اليمين المتطرف والتيارات العدمية المتطرفة.
ويرى محللو GNET أن المحتوى المبتذل الذي ينتجه الذكاء الاصطناعي ويروج للعنف قد يسهم في زيادة الانجذاب إلى العنف. ويسمح بانتشار ما وصفوه بـ”قصيدة العنف” عبر الإنترنت بصورة تدريجية بين الشباب.
وأضاف التحليل أن التعرض المتكرر لهذا النوع من المحتوى قد يمهد الطريق أمام استهلاك مواد سمعية وبصرية أكثر تطرفًا، ما قد يزيد من مخاطر وقوع المستخدمين الشباب في دوامة التطرف الرقمي والعنف.
هل يدفع الذكاء الاصطناعي الأطفال إلى العنف؟
ورغم هذه التحذيرات، لا يزال من غير الواضح ما إذا كان التعرض لمحتوى الذكاء الاصطناعي العنيف يؤدي بالفعل إلى دفع الأطفال نحو تبني أفكار متطرفة أو ممارسة العنف، إذ يحتاج هذا الادعاء إلى مزيد من الدراسات الأكاديمية لإثبات العلاقة بشكل واضح.
كما أن تحليل GNET نفسه تعرض لبعض الملاحظات، من بينها اعتماده على تحليل وصفي أكثر من كونه دراسة تجريبية شاملة، فضلًا عن إشارته إلى مقال واحد على الأقل كُتب بمساعدة الذكاء الاصطناعي.
وتجدر الإشارة إلى أن GNET تمثل الذراع البحثية للمنتدى العالمي للإنترنت لمكافحة الإرهاب، وهي جهة تضم وتمولها شركات تكنولوجية، وقد واجهت انتقادات مرتبطة بدورها في قضايا الرقابة على المحتوى الرقمي.
خطر المحتوى الذي تنتجه الخوارزميات
وبغض النظر عن حسم العلاقة بين المحتوى المنتج بالذكاء الاصطناعي والتطرف العنيف، تظل الكميات الهائلة من المحتوى منخفض الجودة التي تنتجها الخوارزميات وتدفع بها منصات التواصل الاجتماعي مصدر قلق متزايد، خاصة بالنسبة للأطفال الذين لا تزال قدراتهم على تقييم المحتوى وتمييز المعلومات المضللة في طور التطور.
وتكمن الخطورة في إمكانية توظيف المحتوى الاصطناعي في الترويج للعنف أو العنصرية، والتأثير في الرأي العام، والتلاعب بالانتخابات، أو تعزيز مختلف أشكال السلوكيات والأفكار الضارة.
ومع استمرار نمو قدرات الذكاء الاصطناعي وانخفاض تكلفة إنتاج المحتوى، تزداد الحاجة إلى تطوير أدوات فعالة لحماية الأطفال، وتحسين قدرتهم على التعامل مع المحتوى الرقمي، إلى جانب تعزيز الرقابة على المواد التي تنتجها الخوارزميات وتنتشر على نطاق واسع عبر الإنترنت.