قام تطبيق إنستجرام بتصميم خدمة الفيديو Reels لكي تعرض للمستخدمين مجموعات من مقاطع الفيديو القصيرة. حول موضوعات يقرر النظام أنها تهمهم، مثل الرياضة أو الموضة أو الفكاهة.
أظهر اختبار أجرته صحيفة وول ستريت جورنال أن تطبيق التواصل الاجتماعي المملوك لشركة Meta Platforms يفعل نفس الشيء بالنسبة للمستخدمين. الذين تقرر خوارزميتهم أنه قد يكون لديهم اهتمام خاص بالأطفال.
خوارزمية Reels في إنستجرام
سعت المجلة إلى تحديد ما توصي به خوارزمية Reels في Instagram لاختبار الحسابات التي تم إعدادها لمتابعة فقط لاعبي الجمباز الشباب والمشجعين. وغيرهم من المراهقين والمؤثرين النشطين على المنصة.
وقدم نظام إنستجرام جرعات متناقضة من المحتوى البذيء لتلك الحسابات التجريبية. بما في ذلك لقطات فاضحة للأطفال، بالإضافة إلى مقاطع فيديو جنسية صريحة للبالغين. وإعلانات لبعض أكبر العلامات التجارية الأمريكية.
إنشاء حسابات تجريبية
وأنشأت المجلة الحسابات التجريبية بعد أن لاحظت أن آلاف المتابعين لحسابات هؤلاء الشباب غالبا ما تضم أعدادًا كبيرة من الرجال البالغين. وأن العديد من الحسابات التي تابعت هؤلاء الأطفال أبدت أيضًا اهتمامًا بالمحتوى الجنسي المتعلق بالأطفال والكبار على حد سواء.
واختبرت المجلة أيضًا ما ستوصي به الخوارزمية بعد أن اتبعت حساباتها بعض هؤلاء المستخدمين أيضًا. مما أدى إلى إنتاج محتوى أكثر إزعاجًا تتخلله الإعلانات.
في سلسلة من مقاطع الفيديو التي أوصى بها Instagram. ظهر إعلان لتطبيق المواعدة Bumble بين مقطع فيديو لشخص يمسح على وجه دمية لاتكس بالحجم الطبيعي. ومقطع فيديو لفتاة صغيرة ذات وجه محجوب رقميًا ترفع قميصها لتكشف الحجاب الحاجز لها. وفي مقطع آخر، أعقب إعلان تجاري لبيتزا هت مقطع فيديو لرجل يرقد على سرير ويضع ذراعه حول ما قال التعليق إنه فتاة تبلغ من العمر 10 سنوات.
رد شركة ميتا على المجلة
وقالت ميتا إن اختبارات المجلة أنتجت تجربة مصطنعة لا تمثل ما يراه مليارات المستخدمين. ورفضت الشركة التعليق على سبب قيام الخوارزميات بتجميع تدفقات من مقاطع الفيديو المنفصلة التي تظهر الأطفال والجنس والإعلانات. لكن متحدثًا باسمها قال إنها قدمت في أكتوبر أدوات جديدة لسلامة العلامة التجارية تمنح المعلنين تحكمًا أكبر في مكان ظهور إعلاناتهم. وأن Instagram إما يزيل أو يقلل من شهرة أربعة ملايين مقطع فيديو يشتبه في انتهاك معاييره كل شهر.
وذكرت الصحيفة في وقت سابق أن الخوارزميات التي تديرها شركة ميتا، التي تمتلك كلاً من فيسبوك وإنستجرام. تربط مجتمعات كبيرة من المستخدمين المهتمين بالمحتوى الجنسي للأطفال. وقال المتحدث باسم ميتا إن فريق العمل الذي تم تشكيله بعد مقال الصحيفة قام بتوسيع أنظمته الآلية للكشف عن المستخدمين الذين يتصرفون بشكل مريب. وإزالة عشرات الآلاف من هذه الحسابات كل شهر.
اقرأ أيضا:
Stable Diffusion.. أنتج صوراً رائعة باستخدام الذكاء الاصطناعي (فيديو)