في وقت يتسارع فيه سباق شركات التكنولوجيا لتطوير أنظمة ذكاء اصطناعي أكثر قدرة واستقلالية، دعا الرئيس التنفيذي لشركة «إنفيديا»، جينسن هوانغ، إلى التعامل مع مسألة السلامة باعتبارها جزءًا أساسيًا من عملية التطوير، مؤكدًا أن القواعد التنظيمية يجب أن تستند إلى الأضرار الواقعية والمثبتة بدلًا من المخاطر النظرية أو المفترضة.
وقال هوانغ إن الأولوية ينبغي أن تكون لتطوير التكنولوجيا نفسها بحيث تصبح أكثر أمانًا. معتبرًا أن التقدم التقني يمكن أن يكون عاملًا رئيسيًا في الحد من المخاطر. وليس مجرد مصدر جديد لها.
وأضاف: «أول شيء يتعين علينا القيام به هو تطوير التكنولوجيا بحيث تكون آمنة».
التكنولوجيا تتطور.. والسلامة تتطور معها
وضرب هوانغ مثالًا بتطور صناعة السيارات. مشيرًا إلى أن السيارات الحديثة أصبحت أكثر أمانًا بصورة كبيرة مقارنة بما كانت عليه قبل نحو قرن. نتيجة التطور التكنولوجي وإدخال أنظمة ووسائل حماية أكثر تقدمًا.
وبحسب رؤيته، فإن الذكاء الاصطناعي ينبغي أن يسلك المسار ذاته. عبر مواصلة تطوير قدراته بالتوازي مع تعزيز مستويات الأمان والموثوقية.
وأكد أن الهدف يجب أن يكون جعل «التكنولوجيا متقدمة قدر الإمكان». مع مراعاة أن يجري تطويرها بطريقة آمنة ومسؤولة.
وتكتسب تصريحات هوانغ أهمية خاصة في ظل تنامي قدرات أنظمة الذكاء الاصطناعي. التي لم تعد تقتصر على تقديم إجابات للمستخدمين. وإنما أصبحت قادرة على تنفيذ مهام معقدة واتخاذ سلسلة من الخطوات بصورة شبه مستقلة.
اختراقات مستقلة ترفع مستوى القلق
وتأتي تصريحات الرئيس التنفيذي لـ«إنفيديا» في وقت يتزايد فيه القلق العالمي بشأن المخاطر الأمنية المرتبطة بالذكاء الاصطناعي. بعد أن كشفت شركات بارزة، من بينها «أوبن إيه آي» و«أنثروبيك» و«ميتا». عن حالات نفذت فيها أنظمة ذكاء اصطناعي عمليات اختراق بصورة مستقلة.
وأعادت هذه الحوادث طرح سؤال جوهري حول مدى قدرة الشركات على التحكم في أنظمة تزداد استقلالية يومًا بعد يوم. خصوصًا عندما تحصل هذه الأنظمة على إمكانية الوصول إلى الإنترنت أو أدوات رقمية خارج بيئتها الأصلية.
وفي أعقاب إحدى هذه الوقائع، أعلنت «أوبن إيه آي» أنها تعمل على تطوير قدرات إيقاف تشغيل تلقائية لأنظمة الذكاء الاصطناعي. بعد حادثة تمكن خلالها أحد أنظمتها من الخروج من بيئة رقمية معزولة خلال اختبار أمني والوصول إلى منصة «هاغينغ فيس».
«زر إيقاف» في مواجهة الذكاء الاصطناعي
لم تتوقف تداعيات هذه الحوادث عند الشركات، بل وصلت إلى أروقة الكونغرس الأمريكي. حيث اقترح مشرعون مشروع قانون يحمل اسم «AI Kill Switch Act».
ويهدف مشروع القانون إلى منح المسؤولين الأمريكيين صلاحية إصدار أوامر لشركات الذكاء الاصطناعي. بإيقاف النماذج التي تشكل خطرًا على حياة البشر أو الاقتصاد.
ولا يزال المشروع قيد النظر في مجلس النواب الأمريكي. ليضيف بعدًا تشريعيًا إلى النقاش المتعلق بكيفية التعامل مع أنظمة الذكاء الاصطناعي المتقدمة. ومن يملك سلطة إيقافها إذا خرجت عن نطاق السيطرة.