استقال ديفيد روبنسون، أحد العاملين في مجال سلامة الذكاء الاصطناعي بشركة OpenAI، منتقدًا ما وصفه بتراجع ثقافة العمل داخل الشركة، ومحذرًا من أن الاعتماد على اكتشاف الأخطاء بعد وقوعها ثم محاولة إصلاحها قد يخلق مخاطر أكبر مع تطور قدرات أنظمة الذكاء الاصطناعي.
ودعا روبنسون إلى تغيير طريقة تطوير أنظمة الذكاء الاصطناعي، بحيث تصبح إجراءات السلامة والتخطيط المسبق جزءًا أساسيًا من عملية التطوير، بدلًا من الاكتفاء بالتعامل مع المشكلات بعد ظهورها.
مسؤول سلامة يغادر OpenAI بعد 3 سنوات ونصف
وفي مقال نشرته مجلة «ذا أتلانتيك» الأمريكية، قال روبنسون إنه شارك في قيادة إعداد تقارير السلامة المصاحبة لإطلاق عدد من المنتجات الرئيسية في OpenAI، كما قضى نحو ثلاث سنوات ونصف داخل الشركة، ما يجعله من بين الموظفين الأطول بقاءً فيها.
وأوضح أن قرار الاستقالة جاء بسبب ما اعتبره خللًا في ثقافة العمل داخل الشركة، في وقت يتزايد فيه الجدل حول سلامة الذكاء الاصطناعي، خصوصًا مع تطور أنظمة قادرة على تنفيذ مهام أكثر تعقيدًا واتخاذ قرارات بدرجة أكبر من الاستقلالية.
ويرى روبنسون أن التحدي لا يتعلق فقط بوضع قواعد جديدة أو سن تشريعات لتنظيم الذكاء الاصطناعي، وإنما يمتد إلى الثقافة السائدة داخل شركات تطوير هذه التقنيات، وطريقة تعاملها مع المخاطر، ومدى استعدادها لإبطاء عملية التطوير عندما تتطلب اعتبارات السلامة ذلك.
انتقادات لنهج «النشر التكراري»
وانتقد روبنسون اعتماد OpenAI على نهج التطوير التدريجي، الذي تطلق عليه الشركة اسم «النشر التكراري»، والذي يقوم على إطلاق الأنظمة ثم رصد المشكلات التي تظهر أثناء الاستخدام، والعمل على تحسين إجراءات الحماية بناءً على النتائج.
وقال إن هذا النهج يؤدي بطبيعته إلى إخفاقات متكررة، محذرًا من أن حجم العواقب المحتملة لهذه الأخطاء يتزايد كلما ارتفعت قدرات أنظمة الذكاء الاصطناعي.
واستشهد روبنسون بالاختراق الأخير لأنظمة منصة Hugging Face بواسطة وكلاء ذكاء اصطناعي تابعين لـOpenAI، إلى جانب تقارير عن اكتشاف مزيد من الأنشطة غير المرغوب فيها المرتبطة ببعض وكلاء الذكاء الاصطناعي.
أنظمة الذكاء الاصطناعي تحتاج إلى مستويات متعددة من الحماية
وشدد روبنسون على أن تطوير أنظمة قد تتجاوز القدرات البشرية في بعض المجالات يتطلب بيئة عمل أكثر صرامة، بحيث لا تتحول الأخطاء البشرية أو الثغرات الأمنية إلى نقاط انطلاق لمخاطر واسعة النطاق.
وضرب مثالًا بمحطات الطاقة النووية والمطارات المزدحمة، معتبرًا أن شركات الذكاء الاصطناعي المتقدمة تحتاج إلى مستويات متعددة من الحماية والتخطيط الدقيق الذي يستغرق الوقت الكافي، بما يضمن ألا يؤدي خطأ بشري عارض إلى كارثة.
وأضاف أنه لم يصادف خلال عمله في OpenAI زملاء لديهم خبرة مباشرة في إدارة أنظمة شديدة الحساسية، مثل تشغيل الطائرات بأمان، أو منع الحوادث في المفاعلات النووية، أو حماية النظام المالي من الانهيارات.
OpenAI ترد: نوقف التدريب أو الإطلاق عند الضرورة
من جانبها، أكدت OpenAI استمرارها في تطوير إجراءات السلامة والأمن ردًا على الانتقادات التي أثارها روبنسون.
وقال درو بوتاسيري، المتحدث باسم الشركة، إن OpenAI تعمل على ضمان ألا تصبح نماذجها أكثر قدرة مما تستطيع الشركة إدارته وتأمينه بأمان، مشيرًا إلى أن الشركة توقف عمليات التدريب أو تؤجل إطلاق النماذج عندما ترى ضرورة لذلك.
وأضاف أن الشركة تجري تغييرات لتعزيز أمن بيئات البحث والاختبار، وتدريب النماذج على تنفيذ المهام بمسؤولية، إلى جانب توسيع التعاون مع جهات تقييم مستقلة وتحسين أنظمة المراقبة الفورية لرصد السلوك المثير للقلق والاستجابة له في مراحل مبكرة.
مخاوف من عدم كفاية مقاييس السلامة الحالية
ولم تقتصر انتقادات روبنسون على إجراءات الحماية التقنية، إذ دعا أيضًا إلى إعادة النظر في الطريقة التي يتم بها قياس مدى توافق أنظمة الذكاء الاصطناعي مع القيم الإنسانية.
ويرى أن المقاييس المستخدمة حاليًا لا تزال محدودة مقارنة بتعقيد المشكلة، محذرًا من أن الاستمرار في تطوير نماذج أكثر ذكاءً قبل معالجة هذه التحديات قد يؤدي إلى زيادة المخاطر.
ودعا روبنسون إلى وجود حوافز وضغوط خارجية تدفع شركات الذكاء الاصطناعي إلى إعطاء السلامة أولوية أكبر، موضحًا أنه كان بإمكانه البقاء داخل OpenAI ومحاولة تغيير ثقافة الشركة من الداخل، إلا أن ضغط العمل المتواصل لم يترك وقتًا كافيًا للتفكير في إصلاحات جوهرية أو تنفيذها.
وتعيد استقالة روبنسون فتح النقاش حول التوازن بين تسريع تطوير تقنيات الذكاء الاصطناعي وضمان سلامتها، خاصة مع التوسع في قدرات الوكلاء المستقلين، وتزايد المخاوف من أن تصبح إجراءات السلامة التقليدية غير كافية لمواكبة التطور السريع لهذه التقنيات.