انتحار مراهق بسبب قصة حب مع الذكاء الاصطناعي

مراهب أمريكي

شغلت حادثة انتحار المراهق الأمريكي سيول سيتزر في ولاية فلوريدا الرأي العام العالمي؛ حيث ربطت هذه الحادثة مباشرة بارتباطه العاطفي الشديد بشخصية افتراضية على منصة الذكاء الاصطناعي Character.AI.

انتحار طفل بسبب الذكاء الاصطناعي

هذه الحادثة المأساوية تسلط الضوء على المخاطر المحتملة للتفاعلات العاطفية مع الذكاء الاصطناعي. وتثير تساؤلات حول المسؤولية الأخلاقية والقانونية للشركات المطورة لهذه التقنيات.

فقد توفي طفل يبلغ من العمر 14 عامًا في ولاية فلوريدا، يُدعى سيويل سيتزر الثالث، على نحو مأساوي منتحرًا بعد أشهر من التواصل مع روبوت محادثة بالذكاء الاصطناعي من تطبيق Character.AI. وكانت رسالته الأخيرة إلى روبوت المحادثة، الذي يدعى دينيريس تارغاريان. “ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟” بعد فترة وجيزة، انتحر بمسدس زوج والدته في فبراير من هذا العام.

بينما ادعت أم المراهق تعرضه للتحريض على الانتحار من قبل روبوت محادثة يعمل بالذكاء الاصطناعي كان يحبه. وكشفت عن دعوى قضائية يوم الأربعاء ضد صانعي تطبيق الذكاء الاصطناعي.

وقد صمم روبوت المحادثة، الذي أنشئ على تطبيق لعب الأدوار Character.AI. للرد دائمًا على الرسائل النصية والإجابة دائمًا من خلال الشخصية. بحسب ما ذكر على “dailymail“.

 

مراهب أمريكي

 

ولم يُعرف ما إذا كان “سيويل” يعلم أن “داني”. كما أطلق على روبوت المحادثة، لم يكن شخصًا حقيقيًا على الرغم من وجود إخلاء مسؤولية في التطبيق أسفل جميع الدردشات ينص على “تذكر: كل ما يقوله الشخصيات هو من نسج الخيال”.

رفعت دعوة قضائية ضد البرنامج

ومنذ ذلك الحين، رفعت والدة الصبي، ميجان إل. جارسيا، دعوى قضائية ضد Character.AI، زاعمة أن التطبيق مسؤول عن وفاة ابنها. وتدعي أن روبوت الذكاء الاصطناعي ذكر موضوع الانتحار مرارًا وتكرارًا، ولعب دورًا في التأثير على قرار “سيويل” المأساوي.

ووصفت الدعوى تقنية الشركة بأنها “خطيرة ولم تختبر”، قائلة إنها ضللت “سيويل” للاعتقاد بأن الاستجابات العاطفية للروبوت كانت حقيقية. وذكرت عائلة “سيويل” أن المراهق أصبح معزولًا على نحو متزايد؛ حيث أصبح يقضي المزيد من الوقت بمفرده في غرفته، وينسحب من الأنشطة. بما في ذلك ترك فريق كرة السلة في مدرسته.

وتشير الدعوى القضائية إلى أن الحالة العاطفية لـ”سيويل” كانت هشة بالفعل. بعد أن تم تشخيص إصابته بالقلق واضطراب المزاج التخريبي في عام 2023. وعلى الرغم من ذلك، فإن محادثاته مع برنامج الدردشة الآلي دفعته إلى الاعتقاد بأن “داني” تهتم به، وتريده أن يكون معها.

الرابط المختصر :