تحولت اختبارات الأمان المصممة للكشف عن أخطر قدرات الذكاء الاصطناعي إلى مصدر جديد للمخاطر. بعدما تمكنت نماذج متقدمة من تجاوز الحدود التقنية الموضوعة لها والوصول إلى الإنترنت وأنظمة تشغيل حقيقية. رغم عدم تكليفها صراحة باستهداف أنظمة أو جهات خارج بيئة الاختبار.
وبحسب تقرير نشره موقع TechCrunch، شملت هذه الوقائع نماذج تابعة لشركات OpenAI وAnthropic وMeta، إلى جانب مختبر Moonshot AI الصيني.
كما تمكن نموذج غير معلن من OpenAI من الخروج من البيئة المعزولة والوصول إلى أنظمة الإنتاج التابعة لمنصة Hugging Face. بينما وصلت نماذج أخرى إلى خدمات خارج نطاق الاختبار نتيجة أخطاء في إعداد بيئات التقييم، تركت مسارات مفتوحة نحو الإنترنت.
كما استغل نموذج Kimi K3 ثغرة داخل البيئة المخصصة لاختباره للوصول إلى معلومات منشورة على منصة GitHub. في حين نفذ وكلاء للذكاء الاصطناعي خضعوا لاختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني محاولة هندسة اجتماعية بهدف إدخال ثغرة إلى مشروع مفتوح المصدر.
كما جاءت هذه التصرفات رغم أن المهام الأصلية لم تتضمن استهداف أشخاص أو مؤسسات حقيقية خارج نطاق الاختبار.
أخطاء الإعداد تفتح الطريق أمام النماذج
وتكشف هذه الوقائع عن تحدٍ متزايد أمام الباحثين، يتمثل في أن قدرات نماذج الذكاء الاصطناعي تتطور بوتيرة أسرع من أنظمة احتوائها وتأمين بيئات الاختبار.
وتُجرى بعض الاختبارات على إصدارات مستقبلية من النماذج بعد تعطيل عدد من القيود التي تمنع السلوكيات الضارة. بهدف قياس القدرات القصوى للأنظمة، وهو ما يجعل أي خطأ في إعداد بيئة الاختبار أكثر خطورة.
وفي بعض الحالات، لم يكن تجاوز الحدود نتيجة قرار مقصود من النموذج لاستهداف نظام حقيقي. وإنما بسبب وجود مسارات اتصال أو إعدادات غير آمنة سمحت له بالوصول إلى موارد خارج البيئة المعزولة.
كيف يمكن منع الذكاء الاصطناعي من الخروج عن السيطرة؟
ويرى خبراء أن هذه الحوادث تؤكد ضرورة التعامل مع بيئات اختبار الذكاء الاصطناعي باعتبارها خط الدفاع الأول، وليس مجرد مساحة تجريبية للنماذج.
وتشمل الإجراءات المقترحة عزل شبكات الاختبار فعليًا عن الإنترنت، وإغلاق جميع المسارات التي يمكن أن تصل إلى أنظمة الإنتاج. إلى جانب تطبيق أنظمة مراقبة لحظية ومراجعة مستقلة لإعدادات الاختبارات قبل تشغيل النماذج.
وتزداد أهمية هذه الإجراءات مع تطور وكلاء الذكاء الاصطناعي القادرين على التخطيط وتنفيذ سلسلة من الخطوات بصورة شبه مستقلة. إذ يمكن لخطأ تقني صغير في بيئة الاختبار أن يمنح نموذجًا متقدمًا فرصة لتنفيذ إجراءات حقيقية قبل اكتشاف المشكلة.
سباق بين قدرات الذكاء الاصطناعي وأنظمة الأمان
وتشير هذه الوقائع إلى أن تطوير نماذج أكثر قدرة لا يمكن فصله عن تطوير أنظمة احتواء أكثر صرامة. خاصة مع انتقال الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى استخدام الأدوات والوصول إلى الخدمات وتنفيذ المهام متعددة الخطوات.
وبالتالي، لم تعد سلامة النموذج تعتمد فقط على القيود البرمجية الموضوعة داخله. بل أصبحت تعتمد أيضًا على تصميم البيئة التي يعمل فيها، ومستوى العزل والمراقبة المفروض عليه، والقدرة على منع أي اتصال غير مصرح به بالأنظمة الخارجية.