أعلنت شركة “OpenAI” عن خطوة تعكس تنامي القلق العالمي من التأثيرات المتسارعة لتقنيات الذكاء الاصطناعي؛ إذ تسعى لتعيين مسؤول تنفيذي جديد يتولى مهمة دراسة المخاطر الناشئة المرتبطة بالذكاء الاصطناعي، في مجالات تمتد من الأمن السيبراني إلى الصحة النفسية. وذلك في وقت باتت فيه قدرات النماذج المتقدمة تفرض تحديات غير مسبوقة.
البحث عن مسئول تنفيذي جديد
أكد سام ألتمان؛ الرئيس التنفيذي للشركة، في منشور عبر منصة «إكس»، أن نماذج الذكاء الاصطناعي «بدأت بالفعل في طرح تحديات حقيقية».
وأوضح ألتمان أن الشركة تبحث عن قيادات قادرة على تحقيق توازن دقيق، قائلاً: «إذا كنت ترغب في مساعدة العالم على تمكين المدافعين في مجال الأمن السيبراني بقدرات متطورة، مع ضمان عدم استغلالها من قبل المهاجمين لإحداث ضرر.
بحسب إعلان التوظيف، فإن دور رئيس الاستعداد للمخاطر (Head of Preparedness) يتمثل في تنفيذ إطار الاستعداد الخاص بالشركة. وهو الإطار الذي يوضح نهج OpenAI في تتبع والاستعداد لقدرات الذكاء الاصطناعي المتقدمة التي قد تخلق مخاطر جسيمة، سواء على المدى القريب أو البعيد.
إنشاء فريق الاستعداد
كانت OpenAI قد أعلنت لأول مرة عن إنشاء فريق الاستعداد في عام 2023. موضحة أن مهمته الأساسية تتمثل في دراسة ما وصفته بـ«المخاطر الكارثية المحتملة». والتي تتراوح بين تهديدات آنية مثل الهجمات الاحتيالية الإلكترونية، وأخرى أكثر تعقيدًا وطموحًا، مثل المخاطر النووية. وفقا لـ”تك كرانش”.
وفي سياق متصل، كشفت الشركة عن تحديثات حديثة في إطار الاستعداد، أشارت فيها إلى إمكانية «تعديل» متطلبات السلامة الخاصة بها، في حال أقدمت مختبرات منافسة على إطلاق نماذج عالية المخاطر دون توفير ضوابط حماية مماثلة، وهو ما يعكس حدة التنافس المتصاعد في سباق الذكاء الاصطناعي العالمي.
في حين تأتي هذه التطورات في ظل تصاعد التدقيق حول تأثير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي على الصحة النفسية. فقد واجهت ChatGPT وغيرها من النماذج التوليدية انتقادات ودعاوى قضائية حديثة. تزعم أنها ساهمت في تعزيز أوهام بعض المستخدمين. وزيادة عزلتهم الاجتماعية، بل وربطت بين استخدامها وحالات إيذاء النفس.
من جانبها، أكدت OpenAI أنها تواصل العمل على تحسين قدرة ChatGPT على التعرف على مؤشرات الضيق النفسي لدى المستخدمين.
فضلا عن توجيههم نحو مصادر دعم حقيقية خارج المنصات الرقمية. في محاولة للتقليل من المخاطر وتعزيز الاستخدام الآمن والمسؤول للتكنولوجيا.