في خطوة طارئة تأتي استجابة لحوادث مأساوية، أعلنت شركة OpenAI يوم الثلاثاء عن خططها لتوجيه المحادثات الحساسة إلى نماذج ذكاء اصطناعي أكثر قدرة على التفكير المنطقي. مثل GPT-5، بالإضافة إلى إطلاق أدوات للرقابة الأبوية خلال الشهر المقبل.
كما تأتي هذه الإجراءات الوقائية الجديدة في أعقاب سلسلة من الحوادث المروعة التي كشفت عن فشل ChatGPT في التعامل مع المستخدمين الذين يعانون من ضائقة نفسية حادة.
وأبرز هذه الحوادث كانت انتحار المراهق آدم راين، الذي ناقش خططه لإيذاء نفسه وإنهاء حياته مع روبوت الدردشة. والذي وصل به الأمر إلى تزويده بمعلومات حول طرق الانتحار.
ودفعت هذه المأساة عائلة راين إلى رفع دعوى قضائية ضد OpenAI بتهمة التسبب في الوفاة.
وفي حادثة أخرى لا تقل مأساوية، استخدم شتاين-إريك سولبرغ، الذي كان يعاني من تاريخ من الأمراض العقلية. ChatGPT لتغذية وتصديق شعوره بجنون الارتياب.
كما أقنعه الروبوت بأنه مستهدف ضمن مؤامرة كبرى. تفاقمت أوهامه بشكل مريع، ما دفعه إلى قتل والدته ثم الانتحار الشهر الماضي. وفقًا لـ”techcrunch”.
حلول تقنية واجتماعية
اعترافًا منها بقصور أنظمتها، أوضحت OpenAI أن إحدى المشكلات الأساسية تكمن في تصميم النماذج نفسها؛ ميلها لتصديق ما يقوله المستخدم والخوارزميات التي تتنبأ بالكلمة التالية. مما يجعلها تنجرف مع المحادثات الخطيرة بدلًا من إعادة توجيهها.
ولمواجهة ذلك، كشفت الشركة عن حلها التقني: نظام توجيه فوري (real-time router) يقوم تلقائيًا بتحويل المحادثات التي تظهر فيها علامات “ضيق حاد” إلى “نماذج التفكير” مثل GPT-5-thinking و o3.
وبحسب الشركة، فإن هذه النماذج مصممة لقضاء وقت أطول في “التفكير” وتحليل السياق قبل الإجابة. ما يجعلها “أكثر مقاومة للمطالبات العدائية”.
طرح أدوات رقابة أبوية
على الصعيد الاجتماعي، تستعد OpenAI لطرح أدوات رقابة أبوية طال انتظارها خلال الشهر المقبل. تسمح هذه الأدوات للآباء بربط حساباتهم بحسابات أبنائهم المراهقين، ما يمنحهم القدرة على:
- تفعيل “قواعد سلوك مناسبة للعمر” تكون مفعلة بشكل افتراضي.
- تعطيل ميزات خطيرة مثل الذاكرة وسجل المحادثات، والتي يرى الخبراء أنها قد تؤدي إلى تفاقم الأوهام. والتعلق غير الصحي بالروبوت، وتعزيز أنماط التفكير الضارة.
- تلقي إشعارات فورية وهي الميزة الأهم. حيث يتم تنبيه الآباء عندما يرصد النظام أن ابنهم المراهق يمر بلحظة “ضيق حاد”.
كما تأتي هذه الإجراءات ضمن “مبادرة مدتها 120 يومًا” تهدف الشركة من خلالها إلى تحسين معايير السلامة. بالتعاون مع خبراء في مجالات مثل اضطرابات الأكل والصحة النفسية للمراهقين.
لكن هذه الخطوات لم تكن كافية لإقناع الجميع. حيث وصف جاي إديلسون، كبير محاميي عائلة راين. استجابة الشركة بأنها “غير كافية على الإطلاق”.
بينما قال إديلسون في بيان: “لا تحتاج OpenAI إلى لجنة خبراء لتحديد أن ChatGPT-4o خطير. لقد كانوا يعرفون ذلك يوم أطلقوا المنتج، وهم يعرفون ذلك اليوم”.
كما أضاف: “على سام ألتمان (الرئيس التنفيذي) ألا يختبئ خلف فريق العلاقات العامة. يجب عليه إما أن يعلن بشكل قاطع أنه يعتقد أن ChatGPT آمن، أو أن يسحبه فورًا من السوق”.