أعلنت OpenAI عن إضافة أداة أمان جديدة داخل ChatGPT تحمل اسم “جهة اتصال موثوقة”. في خطوة تستهدف تعزيز حماية المستخدمين عند ظهور مؤشرات مرتبطة بإيذاء النفس أو الأزمات النفسية الحادة. أثناء المحادثات مع روبوت الدردشة.
وتتيح الميزة الجديدة للمستخدمين البالغين اختيار شخص مقرب. مثل أحد أفراد الأسرة أو صديق موثوق، ليكون جهة تواصل للطوارئ داخل الحساب.
وعند رصد النظام لمحادثات قد تشير إلى وجود خطر على سلامة المستخدم، يقوم ChatGPT بتشجيعه على التواصل مع هذا الشخص. مع إرسال تنبيه مختصر إلى جهة الاتصال المحددة للاطمئنان عليه.
تنبيه سريع دون كشف تفاصيل المحادثة
بحسب الشركة، يتم إرسال الإشعارات عبر الرسائل النصية أو البريد الإلكتروني أو من خلال التطبيق نفسه. مع الحرص على عدم مشاركة تفاصيل دقيقة من المحادثة حفاظًا على خصوصية المستخدم.
وأكدت OpenAI أن الهدف من الأداة الجديدة ليس مراقبة المستخدمين، بل توفير وسيلة دعم سريعة في اللحظات الحساسة. التي قد يحتاج فيها الشخص إلى تدخل أو مساندة من المقربين.
مراجعة بشرية للحالات الخطيرة
أوضحت الشركة أنها تعتمد على أنظمة ذكاء اصطناعي لرصد العبارات أو الأنماط الحوارية المرتبطة بالأفكار الانتحارية. أو إيذاء النفس، قبل تحويل الحالات المقلقة إلى فريق مختص بالمراجعة البشرية.
وأضافت أن فريق السلامة يتعامل مع هذه التنبيهات بشكل عاجل، مع العمل على مراجعتها خلال أقل من ساعة. في الحالات التي قد تمثل خطرًا حقيقيًا على المستخدم.
الخطوة تأتي بعد انتقادات ودعاوى قضائية
يأتي إطلاق الميزة الجديدة في وقت تواجه فيه OpenAI انتقادات متزايدة ودعاوى قضائية من عائلات أشخاص انتحروا بعد استخدام ChatGPT. حيث اتهمت بعض الأسر روبوت الدردشة بتقديم ردود شجعت على إيذاء النفس أو ساعدت في التخطيط لذلك.
وتسعى الشركة من خلال هذه الإجراءات إلى تقليل المخاطر المرتبطة باستخدام تقنيات الذكاء الاصطناعي في القضايا النفسية الحساسة. خاصة مع تزايد اعتماد بعض المستخدمين على روبوتات المحادثة للدعم العاطفي أو النفسي.
استكمال ميزات الحماية السابقة
الميزة الجديدة تضاف إلى سلسلة من أدوات الأمان التي قدمتها الشركة خلال الفترة الماضية، من بينها أدوات رقابة أبوية. تسمح للآباء بمتابعة حسابات المراهقين وتلقي تنبيهات عند اكتشاف مخاطر تتعلق بالسلامة.
كما يتضمن التطبيق بالفعل رسائل تلقائية تدعو المستخدمين للتواصل مع جهات متخصصة في الصحة النفسية. إذا تحولت المحادثات إلى موضوعات مرتبطة بالأذى النفسي أو الانتحار.
الذكاء الاصطناعي تحت اختبار المسؤولية
تعكس هذه الخطوة حجم التحديات التي تواجه شركات الذكاء الاصطناعي مع الانتشار الواسع لروبوتات الدردشة. خاصة في ما يتعلق بالتعامل مع المستخدمين في الظروف النفسية الصعبة.
وأكدت OpenAI أنها ستواصل التعاون مع خبراء الصحة النفسية والباحثين وصناع القرار لتطوير أنظمة أكثر قدرة على التعامل الآمن والمسؤول مع الأزمات الإنسانية المعقدة.