استخدامات مُسيئة للذكاء الاصطناعي في مدرسة أمريكية

انتقدت فتاة من ولاية نيو جيرسي مدرستها، لأنها سمحت لصبي يزعم أنه استخدم الذكاء الاصطناعي لإنشاء صور إباحية مزيفة لها بالعودة إلى الفصل.

وقالت فرانشيسكا ماني، 14 عامًا، التي تحضر مدرسة ويستفيلد الثانوية، إن وجود الصبي يجعلها “غير مرتاحة وخائفة للغاية”. بعد أن اكتشفت أن صورًا عارية مزيفة لها قد تم نشرها على الطلاب في صفها على سناب شات.

اكتشاف الفتاة بانتشار صور لها بين الطلاب

وفقًا للطلاب، كان طلاب السنة الثانية في مدرسة ويستفيلد الثانوية يتصرفون “بغرابة”. حسبما قالت إحدى الأمهات، حيث كان الأولاد يتهامسون ويكونون أكثر هدوءًا من المعتاد.

وبعد أربعة أيام، أخبر أحد الصبية الفتيات عن سبب التزامهن بالسرية الشديدة. وأن التطور الاصطناعي أنشأ صورًا صريحة لهن يتم إرسالها في محادثات جماعية. أبلغت الفتيات المدرسة بالموقف، والتي بدأت التحقيق.

عندما اكتشفت فرانشيسكا ماني صورها، قالت لـGMA: “أدركت أنني يجب أن أكون مجنونة. قلت لأمي. أخبرتها أنه يتعين علينا أن نفعل شيئًا حيال ذلك. هذا ليس عدلاً للفتيات وهو ليس صحيحًا.

شعور الأم بعد انتشار صور ابنتها

وقالت والدتها دوروتا ماني: “من الواضح أن شعوري الأولي كان الصدمة. سمعت ذلك من ابنتها. وتم توزيع الصور على الناس.

“لقد ذكر أنه لا ينبغي لي أن أقلق”. وقال إن الدردشات السريعة تستمر لبضع ثوان فقط. نحن نعلم أن هذا ليس صحيحا.

“هذه هي اللحظة التي يجب أن نعلم فيها فتياتنا أنهن يستحقن القتال من أجله. وأن ما حدث ليس جيدًا. كما يجب أن نعلم أولادنا أنه ستكون هناك عواقب.

عقوبة المدرسة للصبي

ووفقا للأم وابنتها، فإن الصبي المعني قضى فترة إيقاف قصيرة وعاد بالفعل إلى المدرسة. وقد تقدموا بشكوى إلى الشرطة بسبب تزويره للصور بخاصية الذكاء الاصطناعي.

وأضافت فرانشيسكا، البالغة من العمر 14 عامًا: “أشعر بعدم الارتياح الشديد والخوف الشديد مثل الكثير من الآخرين.

قامت ماري أسفينديس، مديرة مدرسة ويستفيلد الثانوية، بتنبيه أولياء الأمور بالوضع في رسالة بريد إلكتروني بتاريخ 20 أكتوبر. وكتبت أسفنديس: “هذا حادث خطير للغاية”.

“لقد أتاحت التقنيات الجديدة تزوير الصور ويحتاج الطلاب إلى معرفة التأثير والضرر الذي يمكن أن تسببه هذه الإجراءات للآخرين، وقالت أسفينديس إنها تعتقد أن الصور قد تم حذفها الآن ولم تعد متداولة.

إرسال خطاب إلى أولياء الأمور مدرسة ويستفيلد

أرسل مدير مدرسة ويستفيلد الثانوية خطابًا إلى أولياء الأمور يقول فيه: “لفت الطلاب انتباهنا إلى أن بعض الطلاب استخدموا الذكاء الاصطناعي لإنشاء صور إباحية من الصور الأصلية”.

وفي هذا الوقت نعتقد أن أي صور تم إنشاؤها قد تم حذفها ولم يتم تداولها. وهذا حادث خطير للغاية. نحن نواصل التحقيق.

وقال متحدث باسم مدارس ويستفيلد العامة للصحيفة إنهم لن يقدموا تفاصيل عن عدد الطلاب المشاركين أو يؤكدوا ما إذا كان قد تم اتخاذ أي إجراء تأديبي، بسبب سرية الطلاب.

صور التزييف العميق من الذكاء الاصطناعي

وقالت شيلي بريندل، أول عمدة لمدينة ويستفيلد، للنشر: “من الصعب أن تكون في موقف ترى فيه فتيات صغيرات يعانين من الصدمة في مرحلة ضعيفة من حياتهن”.

أكثر من 90% من هذه الصور الكاذبة المعروفة باسم “التزييف العميق” هي إباحية. وفقًا لشركة كشف الصور Sensity AI.

حظرت الولايات، بما في ذلك فرجينيا وكاليفورنيا ومينيسوتا ونيويورك، توزيع المواد الإباحية المزيفة أو منحت الضحايا الحق في مقاضاة منشئيها في المحكمة المدنية. لكن الخبراء يعتقدون أن القانون الفيدرالي يفشل في مواكبة التغيرات التكنولوجية من هذا النوع.

وقال جون برامنيك، عضو مجلس الشيوخ عن ولاية نيوجيرسي الذي تضم منطقته ويستفيلد، للصحيفة: “يجب أن تكون هذه جريمة خطيرة في نيوجيرسي”.

اقرأ أيضًا:

التطور الاصطناعي يعمل على تحديد المنازل المهدرة للطاقة.. دراسة