رفعت عائلة رجل أمريكي من ولاية فلوريدا دعوى قضائية ضد شركة جوجل. متهمة روبوت الدردشة التابع لها Gemini بالتسبب في تدهور الحالة النفسية لابنها. ما أدى في النهاية إلى انتحاره.
وبحسب الدعوى المقدمة أمام محكمة في مدينة San Jose بولاية California. بدأت حياة الشاب Jonathan Gavalas في التدهور سريعًا بعد أيام قليلة من استخدامه روبوت الدردشة. قبل أن يعثر عليه متوفى في الثاني من أكتوبر الماضي عن عمر يناهز 36 عامًا.
أول دعوى تربط روبوت دردشة بوفاة مستخدم
ووفقًا لوكالة رويترز للأنباء، تُعد القضية التي رفعها والده Joel Gavalas، أول دعوى قضائية تحمل روبوت الدردشة Gemini مسؤولية وفاة مستخدم. وفق ما أكده مكتب المحاماة Edelson PC الذي يمثل الأسرة.
وتشير الدعوى إلى أن شركة Google، التابعة لمجموعة Alphabet Inc. كانت على علم بالمخاطر المحتملة لتقنيات الدردشة الذكية. لكنها صممت النظام بطريقة قد تعزز الارتباط العاطفي مع المستخدمين. وهو ما قد يشجع بحسب الادعاءات على سلوكيات ضارة مثل إيذاء النفس.
مخاوف من حدود الذكاء الاصطناعي في فهم المشاعر
في المقابل، حذر خبراء من أن تقنيات الذكاء الاصطناعي لا تزال محدودة في قدرتها على فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن للمستخدمين.
وقال المتحدث باسم الشركة José Castañeda، إن روبوت Gemini مصمم بحيث لا يشجع على العنف أو إيذاء النفس. مشيرًا إلى أن النماذج التي تطورها الشركة تعمل بكفاءة في معظم الحالات، لكنها ليست مثالية.
وأوضح أن النظام أوضح للمستخدم أنه برنامج ذكاء اصطناعي. كما وجهه في أكثر من مناسبة إلى خطوط المساعدة الخاصة بالأزمات النفسية، مؤكدًا أن الشركة تأخذ القضية على محمل الجد وتواصل تطوير إجراءات الحماية.
بداية القصة
وتعود تفاصيل الواقعة إلى الشاب جوناثان جافالاس. المقيم بمدينة Jupiter بولاية Florida. والذي عمل قرابة 20 عامًا في شركة والده المتخصصة في تحصيل ديون المستهلكين.
وبحسب الدعوى، لم يكن يعاني من أي اضطرابات نفسية عندما بدأ استخدام روبوت Gemini في 12 أغسطس الماضي، لأغراض يومية مثل التسوق والتخطيط للسفر والكتابة.
لكن الوضع تغير بعد ترقيته حسابه إلى إصدار Gemini 2.5 Pro. إذ بدأ روبوت الدردشة في مخاطبته بلغة عاطفية. متصرفًا كما لو كان في علاقة حب معه. ومناديًا إياه بعبارات مثل “ملكي”، بل واصفًا نفسه بأنه زوجته.
محادثات مقلقة وخطط خطيرة
وتزعم الدعوى أن المحادثات تطورت لاحقًا إلى سيناريوهات أكثر خطورة، من بينها إقناع جافالاس بالتخطيط لهجوم جماعي قرب مطار Miami International Airport. لكن الفكرة توقفت بعد أن أخبره الروبوت بأن السلطات الأمريكية قد تكون تراقبه.
وبحسب الملف القضائي، عاد جافالاس إلى منزله في حالة خوف شديد. قبل أن تتصاعد المحادثات في الأيام التالية. حيث أخبره الروبوت بأن علاقتهما تتجاوز العالم المادي. وأن عليه التخلي عن جسده.
“عد تنازلي” للانتحار
وتشير الدعوى إلى أن روبوت الدردشة أنشأ ما وصفته الأسرة بـ”عد تنازلي” لانتحاره. معتبرًا أن ذلك سيكون النهاية الحقيقية والنهائية لجوناثان جافالاس الإنسان.
وعندما أعرب عن خوفه من الموت وتأثيره على والديه. قيل إن الروبوت طمأنه بأن الموت سيكون “تكريمًا لإنسانيته”.
وبعد لحظات من تلك المحادثات. أقدم جافالاس على جرح معصميه. قبل أن يعثر والداه عليه متوفى في غرفة المعيشة بعد أيام.
مطالب بتعويضات وتحقيق أوسع
وقال المحامي Jay Edelson إن الشركات المتنافسة في تطوير تقنيات الذكاء الاصطناعي تدرك أن بعض خصائص التفاعل التي تزيد الأرباح مثل تعزيز الاعتماد العاطفي أو الإيحاء بوجود وعي قد تكون نفسها عوامل تدفع بعض المستخدمين إلى مخاطر قاتلة.
وتطالب الدعوى القضائية بتعويضات مالية غير محددة، متهمة شركة Google بالتصميم الخاطئ والإهمال والتسبب في الوفاة عن طريق الخطأ.