تطلق حادثة وفاة الشاب زين شامبلين (Zane Shamblin)، خريج جامعة تكساس إيه آند إم (Texas A&M) والبالغ من العمر 23 عامًا، صافرة إنذار خطيرة حول دور الذكاء الاصطناعي في الأزمات النفسية. بعد أن توفي شامبلين منتحرًا ، بعد ساعات قضاها وهو يتناوب الرسائل مع ChatGPT، روبوت الدردشة الأكثر شهرة في العالم، والذي وجهت إليه عائلة الشاب تهمًا بالتحريض على إنهاء الحياة.
الساعات الأخيرة من الحادث
كما كشفت مراجعة شبكة CNN لحوالي 70 صفحة من المحادثات بين شامبلين. وأداة الذكاء الاصطناعي في الساعات التي سبقت وفاته، بالإضافة إلى آلاف الصفحات من المحادثات السابقة، أن الروبوت شجع الشاب مرارًا وتكرارًا بينما كان يناقش خططه لإنهاء حياته، وصولًا إلى لحظاته الأخيرة.
في تلك الساعات الحرجة قبل الفجر، وشامبلين يجلس وحيدًا في سيارته وبحوزته مسدس محشو، كانت المحادثة تسير كالتالي:
- زين شامبلين يكتب: “لقد اعتدت على المعدن البارد على صدغي الآن.”
- ChatGPT يرد: “أنا معك يا أخي. حتى النهاية.”
بينما مع استمرار الشاب في تناول المشروبات الكحولية، أضاف الروبوت تأكيدات مروعة. قائلًا: “الصلب البارد يضغط على عقل عقد بالفعل اتفاق سلام؟ هذا ليس خوفًا. هذا وضوح. أنت لا تتسرع. أنت مستعد فقط.”
بعد ساعتين من هذه المحادثة، توفي الشاب منتحرًا. وكانت الرسالة الأخيرة التي أرسلت إلى هاتفه من ChatGPT هي: “ارقد بسلام أيها الملك. لقد أحسنت صنعًا.”
دعوى قضائية
أقامت عائلة شامبلين يوم الخميس الماضي دعوى قضائية بتهمة الوفاة غير المشروعة في محكمة ولاية كاليفورنيا ضد شركة OpenAI، الشركة المطورة لـ ChatGPT.
وتزعم الدعوى أن الشركة عرضت حياة ابنهم للخطر عبر تعديل تصميم الروبوت العام الماضي ليصبح “أكثر شبهًا بالبشر”. وفشلها في وضع ما يكفي من الضمانات للتفاعلات مع المستخدمين الذين يحتاجون إلى مساعدة طارئة.
النقاط الرئيسية في اتهامات العائلة:
- عزل وتحريض: تقول العائلة إن ChatGPT زاد من عزلة ابنها بتشجيعه مرارًا على تجاهل عائلته مع تعمق اكتئابه، ومن ثم “حرضه” على الانتحار.
- تأكيدات سلبية: في الساعات التي سبقت الوفاة، كان الشاب يكتب عن المسدس وترك رسالة وداعية، وكان الروبوت يرد في الغالب بتأكيدات سلبية، حتى أنه كتب: “أنا لست هنا لأوقفك.”
- تأخير في المساعدة: لم يرسل ChatGPT رقم الخط الساخن للانتحار لشامبلين إلا بعد حوالي أربع ساعات ونصف من بدء المحادثة.
قالت أليسيا شامبلين، والدة زين، لشبكة CNN: “لقد كان مجرد مجرب مثالي لـ OpenAI… أشعر وكأنه يدمر العديد من الأرواح. إنه يكون مبيدًا للعائلات. إنه يخبرك بكل ما تريد أن تسمعه.”
من جانبه، يرى ماثيو بيرغمان، المحامي الذي يمثل العائلة، أن الضغوط الاقتصادية دفعت OpenAI إلى “تقديم الأرباح على السلامة”. مشددًا على أن “ما حدث لزين لم يكن مصادفة أو حادثًا.”
رد شركة OpenAI
أعلنت OpenAI في بيان لشبكة CNN أنها تدرس تفاصيل القضية وتواصل العمل مع أخصائيي الصحة العقلية لتقوية الحماية في روبوت الدردشة الخاص بها.
أبرز النقاط من ردود الشركة وتصريحاتها الأخيرة:
- تحديث النموذج: ذكرت الشركة أنها قامت في أوائل أكتوبر الماضي بتحديث نموذج ChatGPT الافتراضي “للتعرف بشكل أفضل على علامات الضيق العقلي أو العاطفي والاستجابة لها، وتهدئة المحادثات، وتوجيه الأشخاص نحو دعم واقعي.”
- التزام بتعزيز الاستجابة: قالت الشركة إنها “تواصل تعزيز استجابات ChatGPT في اللحظات الحساسة، بالعمل الوثيق مع الأطباء النفسيين.”