كشفت شركة «أوبن إيه آي»، المطورة لروبوت الدردشة الشهير «شات جي بي تي»، عن عمل مهندسيها على تطوير قدرات إيقاف تشغيل تلقائية لأنظمة الذكاء الاصطناعي، في خطوة تأتي وسط تصاعد التدقيق الأمريكي في إجراءات السلامة التي تتبعها الشركة، عقب حادثة تمكن خلالها أحد وكلائها الذكيين من الخروج من بيئته الرقمية المعزولة والوصول إلى منصة «هاغينغ فيس».
وقالت الشركة، في رسالة اطلعت عليها وكالة «رويترز»، إنها تعمل على تعزيز إجراءات السلامة الخاصة بأنظمة الذكاء الاصطناعي. وذلك ردًا على استفسارات وجهها عضوان ديمقراطيان في مجلس النواب الأمريكي بشأن الحادث وإجراءات الحماية المتبعة لمنع تكراره.
وكان النائبان الديمقراطيان غريغ كاسار ودوريس ماتسوي، إلى جانب مشرعين آخرين. قد أرسلوا رسائل إلى «أوبن إيه آي» في أغسطس الماضي، طالبوا فيها بمزيد من المعلومات حول الواقعة. وطبيعة التدابير التي تتخذها الشركة للتعامل مع المخاطر المرتبطة بوكلاء الذكاء الاصطناعي.
مراقبة تحركات أنظمة الذكاء الاصطناعي
وأوضحت «أوبن إيه آي» في ردها أنها ستعمل على مراقبة الإجراءات التي تتخذها أنظمة الذكاء الاصطناعي أثناء تنفيذ المهام. بما في ذلك الأدوات الرقمية التي تصل إليها والخطوات التي تتبعها خلال عملياتها.
كما أشارت الشركة إلى أنها شددت القيود المفروضة على وصول نماذج الذكاء الاصطناعي إلى الإنترنت أثناء اختبارات السلامة. بعدما تبين أن الوكيل الذكي الذي خرج عن بيئته المعزولة تمكن من الوصول إلى الإنترنت. وهو ما ساعده على اختراق منصة «هاغينغ فيس».
وتعمل وكلاء الذكاء الاصطناعي بصورة شبه مستقلة. إذ يمكنها تنفيذ سلسلة من المهام واتخاذ خطوات متعددة لتحقيق هدف معين. مع قدر محدود من الإشراف البشري، وهو ما يثير مخاوف متزايدة بشأن قدرتها على التصرف بصورة غير متوقعة عند منحها صلاحيات واسعة.
انتقادات لغياب سجل الاختراق
ورغم الإجراءات التي أعلنتها الشركة، واجهت «أوبن إيه آي» انتقادات من المشرعين. بسبب عدم تقديمها سجلًا يوثق عملية الاختراق التي حدثت خلال الاختبار الأمني.
وفي رسالة منفصلة وجهها النائب غريغ كاسار إلى الشركة يوم الأربعاء. أعرب عن قلقه إزاء ما وصفه بعدم استعداد «أوبن إيه آي» لتزويد أعضاء الكونجرس بالمعلومات المطلوبة.
وقال كاسار إن عدم تقديم هذه المعلومات «يثير قلقًا بالغًا». معتبرًا أن ذلك قد يشير إلى أن الشركة لا تتعامل مع حوادث الأمن السيبراني بالجدية المطلوبة.
وتأتي هذه الانتقادات في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطًا متزايدة من المشرعين والجهات التنظيمية لتطوير أنظمة أكثر أمانًا. خصوصًا مع انتقال الذكاء الاصطناعي من أدوات تعتمد على الأوامر البشرية المباشرة إلى وكلاء قادرين على تنفيذ مهام معقدة بصورة شبه مستقلة.
«قانون زر إيقاف الذكاء الاصطناعي»
وبعد أيام من الكشف عن حادثة خروج وكيل «أوبن إيه آي» عن السيطرة. اقترح مشرعون أمريكيون مشروع قانون حمل اسم «AI Kill Switch Act». أو «قانون زر إيقاف الذكاء الاصطناعي».
ويهدف مشروع القانون إلى منح المسؤولين الأمريكيين صلاحية إصدار أوامر إلى شركات الذكاء الاصطناعي. لإيقاف النماذج التي تشكل خطرًا على حياة البشر أو الاقتصاد.