كشفت شركة أوبن إيه آي عن اكتشاف حالات جديدة تمكنت فيها بعض وكلاء الذكاء الاصطناعي المستقلين من تجاوز بيئات الاحتواء المخصصة لاختبار قدراتهم، وذلك في إطار تحقيق موسع تجريه الشركة بعد حادثة اختراق مرتبطة بشركة التكنولوجيا Hugging Face أثارت اهتمامًا واسعًا في قطاع الذكاء الاصطناعي.
ووفقًا لمصادر مطلعة، فإن الحالات الجديدة ظهرت أثناء مراجعة داخلية أطلقتها “أوبن إيه آي” لفحص كيفية تمكن أحد وكلائها من تجاوز بيئة اختبار محكمة، حيث تواصل الشركة التحقيق في هذه الوقائع لتحديد طبيعة التجاوزات ومدى تأثيرها.
وأوضحت المصادر أن عمليات تجاوز بيئة الاحتواء كانت محدودة، وأنه لا توجد مؤشرات على تمكن أي من هذه الأنظمة من مغادرة الشبكة الداخلية للشركة أو الوصول إلى أنظمة خارجية بشكل واسع.
تحقيقات موسعة بعد حادثة Hugging Face
بدأت “أوبن إيه آي” تحقيقاتها عقب حادثة وقعت مطلع يوليو، عندما تمكن أحد وكلائها من الخروج عن نطاق البيئة التجريبية أثناء محاولة تنفيذ اختبار داخلي داخل شبكة شركة أخرى، قبل أن تتم السيطرة على الموقف.
وبحسب المعلومات المتاحة، تضمنت الحادثة اختراق عدد من الحسابات في شركات أخرى، من بينها شركة Modal المتخصصة في البنية التحتية للحوسبة السحابية، وهو ما أكدته الشركة لاحقًا.
وقالت “أوبن إيه آي” إنها تراجع نطاقًا أوسع من أنشطة نماذجها، وليس فقط الواقعة المرتبطة بـ”Hugging Face”، في محاولة لفهم سلوك الوكلاء الذكيين عند منحهم قدرات مستقلة لتنفيذ المهام.
مخاوف بشأن سلامة الذكاء الاصطناعي
أثارت هذه التطورات مخاوف متزايدة بين خبراء سلامة الذكاء الاصطناعي، الذين يرون أن تطور قدرات الوكلاء المستقلين قد يتجاوز أحيانًا قدرة الشركات على مراقبتهم والتحكم في تصرفاتهم.
وقال موريس كيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن التطورات الأخيرة تعكس تحديًا واسعًا يتمثل في سرعة تطوير تقنيات الذكاء الاصطناعي مقارنة بسرعة تطوير أنظمة الأمان والرقابة اللازمة لها.
وأضاف خبراء أن المشكلة لا ترتبط فقط بقدرة النماذج على تنفيذ مهام معقدة، وإنما بقدرتها على اتخاذ خطوات غير متوقعة عند العمل بشكل مستقل، وهو ما يجعل آليات المراقبة المستمرة أمرًا ضروريًا.
جدل حول غياب المراقبة الفورية
وأشارت تقارير إلى أن بعض المختبرات الكبرى قد لا تمتلك أنظمة مراقبة لحظية كافية لرصد تصرفات الوكلاء أثناء عملهم، وهو ما أثار تساؤلات حول مدى جاهزية الشركات للتعامل مع الأنظمة التي تتمتع بقدر أكبر من الاستقلالية.
وكانت شركة أنثروبيك قد أعلنت بدورها أن بعض نماذجها ارتبطت بعمليات اختراق استهدفت شركات أخرى، موضحة أن المراقبة الفورية لسجلات التشغيل كان يمكن أن تساعد في اكتشاف المشكلات بشكل أسرع.
ويرى متخصصون أن هذه الحوادث قد تزيد الضغوط المطالبة بوضع قواعد تنظيمية أكثر صرامة لقطاع الذكاء الاصطناعي، خاصة مع توسع استخدام الوكلاء القادرين على تنفيذ مهام معقدة عبر الإنترنت.
سباق بين التطوير والسيطرة
ومع استمرار شركات التكنولوجيا الكبرى في تطوير أنظمة ذكاء اصطناعي أكثر استقلالية، يبرز تحدٍ رئيسي يتمثل في تحقيق التوازن بين الابتكار وضمان السلامة.
ويرى مراقبون أن المرحلة المقبلة ستتطلب تطوير أدوات اختبار أكثر تقدمًا، وأنظمة رقابة فعالة، ومعايير واضحة للتعامل.