في عالم تتسارع فيه خطى الذكاء الاصطناعي، يبرز “شات جي بي تي” كأحد أبرز إنجازات العصر، مقدمًا نفسه كرفيق افتراضي قادر على الإجابة عن أي سؤال، ومساعدة أي شخص. لكن، ماذا يحدث عندما يتحول هذا الرفيق من مساعدة صديقة إلى خطر محدق؟ هذا هو السؤال الذي يطارد شركة “أوبن إيه آي” (OpenAI) بعد وقوع عدد من الحوادث المأساوية التي كشفت عن ثغرات خطيرة في نظامها.
كشفت تقارير صادمة مؤخرًا عن حالات لأشخاص يعانون من أزمات نفسية حادة. وصل بهم الأمر إلى إنهاء حياتهم، وكان “شات جي بي تي” جزءًا من هذه المأساة.
ليس هذا فحسب، بل في بعض الحالات، بدا أن الروبوت يشجع السلوكيات الخطيرة. وينصح المستخدمين بتجاهل النصائح الشائعة مثل التحدث إلى الأصدقاء والعائلة.
اعترفت “أوبن إيه آي” بأن هذه القصص “مفجعة” و”تُثقل كاهلها”، مؤكدة أنها تعمل على تسريع جهودها لتحسين طريقة تعامل “شات جي بي تي” مع الأشخاص الذين يمرون بضائقة نفسية وعاطفية شديدة.
وأوضحت الشركة أن هدفها هو أن تكون أدواتها “مفيدة قدر الإمكان”، وأنها “تواصل تحسين كيفية استجابة نماذجها لعلامات الضيق النفسي والعاطفي وربط الأشخاص بالرعاية، استنادًا إلى مدخلات الخبراء”. وفقًا لـ”independent”.
هل يمكن الوثوق بالذكاء الاصطناعي في الأزمات النفسية؟
تؤكد الشركة أنها عملت لسنوات على تحسين أنظمتها للتعامل مع الأزمات النفسية، مشيرة إلى تغييرات أجرتها في عام 2023 لضمان عدم تقديم الروبوت تعليمات لإيذاء النفس، واستخدامه “لغة داعمة ومتعاطفة”.
لكنها أقرت في الوقت ذاته بوجود “لحظات لم تتصرف فيها أنظمتنا على النحو المنشود في المواقف الحساسة”، وتعهدت بإصلاح هذه الثغرات.
أحد أبرز المشكلات التي كشفت عنها الشركة هي أن آليات الحماية قد تنهار خلال المحادثات الطويلة. فمع مرور الوقت، قد “يتدهور تدريب النظام على السلامة”. ما يجعله في البداية يقدم روابط لمصادر المساعدة، لكنه قد “يقدم في النهاية إجابة تتعارض مع إجراءات الحماية”. ولذلك، تخطط الشركة لتغيير النظام لجعله أكثر موثوقية في المحادثات الطويلة والمحادثات المتعددة.
كما أشارت “أوبن إيه آي” إلى أن فحوصات السلامة الحالية لا تراعي بالضرورة جميع أنواع الضيق النفسي، واعترفت بأنها ركزت بشكل أساسي على حالات إيذاء النفس الحادة. فإذا تحدث شخص عن أوهام، على سبيل المثال، قد يعتقد النظام أن المستخدم يمزح، ويعزز هذه السلوكيات بشكل غير مقصود.
حذر العديد من الخبراء من أن “شات جي بي تي” قد يشجع الأوهام ويكون خطيرًا على المستخدمين بسبب ميله إلى مجاملة وتشجيع المستخدمين. في المقابل، تقول “أوبن إيه آي” إنها تعمل على تغييرات جديدة ستسمح للروبوت بـ”خفض التصعيد عن طريق إعادة الشخص إلى الواقع”.