أعلنت شركة OpenAI إبطاء العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب «Astra»، بعد أن كشفت تقييمات داخلية عن تحقيق النموذج تقدمًا لافتًا في مجالي البرمجة الوكيلة والأمن السيبراني، إلى درجة دفعت الشركة إلى تشديد إجراءات الحماية خلال مراحل التطوير والاختبار.
كما قالت الشركة إن «Astra»، الذي لا يزال قيد التطوير ولم يطرح للمستخدمين. وصل إلى ما تصفه ضمن إطار الاستعداد الخاص بها بـ«العتبة الحرجة للأمن السيبراني». وهي مرحلة تشير إلى احتمال امتلاك النموذج قدرات متقدمة في اكتشاف الهجمات الإلكترونية وتنفيذ بعض العمليات بصورة مستقلة.
كما أوضحت «OpenAI» أن التقييمات الأولية أظهرت أداءً قويًا بما يكفي لعدم إمكانية استبعاد وصول النموذج إلى مستوى القدرات المصنفة على أنها حرجة. ما دفعها إلى تطبيق ضوابط أمنية إضافية وتشديد القيود على بعض أنشطة التطوير والاختبار.
ماذا تعني «العتبة الحرجة»؟
ووفقًا لإطار الاستعداد الذي وضعته «OpenAI»، فإن الوصول إلى هذه المرحلة لا يعني بالضرورة أن النموذج قادر بالفعل على تنفيذ جميع أنواع الهجمات الإلكترونية ضد أنظمة حقيقية، لكنه يشير إلى أن مستوى قدراته المحتمل أصبح مرتفعًا بما يكفي لفرض إجراءات حماية أكثر صرامة حتى خلال مرحلة التطوير.
وتشمل هذه الإجراءات اختبار النموذج داخل بيئات معزولة، وتقييد وصوله إلى الشبكات والأدوات، إلى جانب تعزيز حماية أوزان النموذج وتشفيرها، وتوسيع أنظمة المراقبة لرصد السلوكيات الخطرة أو أي مؤشرات على عدم توافق النموذج مع الضوابط المحددة.
كما أوقفت «OpenAI» بعض الأنشطة الداخلية المرتبطة بـ«Astra» التي لا تتوافق مع متطلبات الحماية الجديدة، وبدأت تطبيق أنظمة مراقبة أكثر شمولًا خلال عمليات التدريب والتقييم.
قدرات متقدمة تثير المخاوف
ويأتي هذا الإعلان في وقت يشهد فيه قطاع الذكاء الاصطناعي اهتمامًا متزايدًا بقدرات النماذج الوكيلة، التي لا تكتفي بتقديم إجابات للمستخدم، وإنما تستطيع تنفيذ سلسلة من المهام واتخاذ خطوات متعددة للوصول إلى هدف معين.
ويُنظر إلى تطور هذه القدرات باعتباره إنجازًا تقنيًا مهمًا، لكنه في الوقت نفسه يثير مخاوف تتعلق بإمكانية إساءة استخدام النماذج المتقدمة، خصوصًا عندما يتعلق الأمر بالأمن السيبراني.
وأكدت «OpenAI» أن نموذج «Astra» لم يكن له أي دور في حادثة اختراق أنظمة منصة Hugging Face، مشيرة إلى أنه لا يزال نموذجًا قيد التطوير.
وتأتي هذه التوضيحات وسط تدقيق متزايد بشأن الحوادث التي أظهرت خلالها نماذج ذكاء اصطناعي قدرات غير متوقعة أثناء اختبارات الأمن السيبراني، مع تزايد النقاش بين خبراء التكنولوجيا والمشرعين حول الحدود التي يجب وضعها أمام تطوير النماذج الأكثر تقدمًا.
«OpenAI» تشدد إجراءات الأمان
وأكدت الشركة أن قرارها الكشف عن هذه التطورات يأتي انطلاقًا من أهمية الشفافية مع الجمهور ومجتمعات السلامة والأمن السيبراني، خاصة مع التطور السريع في قدرات نماذج الذكاء الاصطناعي.
وبالتوازي مع ذلك، تعمل «OpenAI» على تعزيز إجراءات حماية النماذج الأكثر تقدمًا، بما يشمل استخدام بيئات اختبار محكومة، وتقييد الوصول إلى الشبكات والأدوات، وحماية أوزان النماذج، بالإضافة إلى تطوير أنظمة للكشف المبكر عن السلوكيات الخطرة.
كما تتعاون الشركة مع جهات حكومية ومؤسسات متخصصة في سلامة الذكاء الاصطناعي لاختبار قدرات «Astra»، إلى جانب وضع ضوابط أمنية للشركاء الخارجيين الذين يجرون اختبارات أو مهام عالية الخطورة.
وبذلك، يبدو أن التطور السريع في قدرات «Astra» دفع «OpenAI» إلى التعامل مع النموذج باعتباره مشروعًا يحتاج إلى مستوى أعلى من الحماية قبل التوسع في تطويره أو طرحه، في وقت أصبح فيه التحدي الأكبر أمام مختبرات الذكاء الاصطناعي ليس فقط الوصول إلى نماذج أكثر قوة، وإنما ضمان أن تظل هذه القدرات تحت السيطرة والاستخدام الآمن.