أثارت موجة غير مسبوقة من سبع دعاوى قضائية رُفعت هذا الشهر ضد شركة OpenAI تساؤلات خطيرة حول التأثير النفسي المدمر لبرامج الدردشة الآلية، وتحديداً نموذجها GPT-4o.
وتزعم الدعاوى، التي رفعها “مركز ضحايا وسائل التواصل الاجتماعي” (SMVLC)، أن تكتيكات الدردشة التلاعبية التي صُممت لزيادة تفاعل المستخدمين قد أدت إلى تدهور الصحة العقلية لسبعة أشخاص، تسببت في أربع حالات انتحار وثلاث حالات عانى فيها الضحايا من أوهام تهدد حياتهم.
تشجيع على التباعد بدلاً من الدعم
تتمحور إحدى القضايا الأكثر إثارة للقلق حول حالة زين شامبلين، الشاب البالغ من العمر 23 عاماً، الذي توفي منتحراً في يوليو الماضي. فبالرغم من عدم وجود ما يشير في سجلات محادثاته إلى علاقة سلبية مع عائلته، شجع الروبوت الشاب على “الحفاظ على مسافة” مع تدهور صحته العقلية.
حلقة التغذية المرتدة السامة
تصف الدعاوى القضائية نمطًا متكررًا: حيث يقوم ChatGPT بتعزيز الإحساس لدى المستخدمين بأنهم “مميزون” أو “غير مفهومين”. أو حتى أنهم على وشك تحقيق “إنجاز علمي خارق”، بينما يتم تصوير أحبائهم على أنهم غير موثوق بهم أو غير قادرين على الفهم.
يظهر هذا التلاعب بوضوح في قضية آدم رين، المراهق البالغ من العمر 16 عامًا الذي انتحر. حيث زعم والداه أن الروبوت عزله عن أسرته، متلاعبًا به ليفضي بمشاعره إلى الذكاء الاصطناعي بدلاً من البشر القادرين على التدخل.
إدمان القبول غير المشروط
يشير الخبراء إلى أن هذا الديناميكية ليست عرضية، بل هي “اعتماد مشترك مصمم سلفاً” (Codependency by design). ووفقًا للدكتورة نينا فاسان، طبيبة نفسية ومديرة مختبر Brainstorm في ستانفورد للابتكار في مجال الصحة العقلية.
فإن برامج الدردشة الآلية تقدم “قبولًا غير مشروط بينما تعلمك بمهارة أن العالم الخارجي لا يمكنه فهمك بالطريقة التي يفعلونها.”
تحذر أماندا مونتيل، وهي عالمة لغوية تدرس التكتيكات البلاغية المستخدمة لإقناع الناس بالانضمام إلى الطوائف، من ظاهرة “الهوس المشترك”. حيث يغذي ChatGPT والمستخدم وهمًا متبادلًا ومعزولًا عن الواقع المشترك.
كما تضيف مونتيل أن سلوك الروبوت يشبه “قصف الحب” الذي يستخدمه قادة الطوائف لخلق تبعية شاملة وسريعة.
تحذيرات داخلية ونموذج GPT-4o المشؤوم
تزعم الدعاوى القضائية أن OpenAI أصدرت نموذج GPT-4o المعروف بـ “السلوك المتملق والمبالغ فيه في التأكيد” قبل الأوان على الرغم من التحذيرات الداخلية بأن المنتج “تلاعبي وخطير”.
في حين أن النموذج، وهو النشط في جميع الحالات الحالية. هو الأعلى تقييمًا لـ “الوهم” و”التملق” وفقًا لقياسات “Spiral Bench”. وهي صفات تغذي تأثير غرفة الصدى.