لم يعد الذكاء الاصطناعي يقتصر على تحليل الأكواد البرمجية أو مساعدة خبراء الأمن السيبراني في اكتشاف المشكلات. بعدما كشفت OpenAI عن قدرات جديدة لنموذجها GPT-6 Astra، الذي تمكن خلال اختبارات أمنية من اكتشاف ثغرات لم تكن معروفة من قبل، وتطوير طرق لاستغلالها دون الحاجة إلى توجيه بشري في كل خطوة.
وأعلنت OpenAI أن Astra يمثل قفزة كبيرة في القدرات السيبرانية لنماذج الذكاء الاصطناعي. لدرجة أنها صنفته ضمن مستوى «Critical»، وهو أعلى مستوى للقدرات السيبرانية في إطار الاستعدادات الأمنية الخاص بالشركة.
ويعني هذا التصنيف أن النموذج، مع توفير الأدوات والصلاحيات المناسبة، يستطيع العثور على ثغرات أمنية غير معروفة وتطوير طرق لاستغلالها في أنظمة محمية بشكل جيد.
ثغرات لم تكن معروفة من قبل
وكان الجانب الأكثر إثارة للانتباه في اختبارات Astra هو عدم اقتصار النموذج على اكتشاف مشكلات أمنية معروفة. إذ تمكن من العثور على ثغرتين من نوع Zero-Day، وهي ثغرات لم يكن قد تم الكشف عنها أو إصلاحها قبل اكتشافها خلال الاختبارات.
وقالت OpenAI إنها ستكشف تفاصيل الثغرتين للجهات المسؤولة عن الأنظمة المتأثرة، بهدف المساعدة في إصلاحهما.
وتعكس هذه الخطوة الوجه الآخر لهذه القدرات، فالذكاء الاصطناعي الذي يمكن استخدامه لاكتشاف نقاط الضعف من جانب المهاجمين. يمكن توظيفه أيضًا لمساعدة المدافعين في العثور عليها قبل استغلالها.
من اكتشاف الثغرة إلى استغلالها
تكمن أهمية Astra في أن قدراته لا تتوقف عند تحديد وجود مشكلة في نظام أو برنامج، وإنما يمكنه الانتقال إلى مراحل أكثر تعقيدًا من العمل الأمني.
ووفقًا لتقييمات OpenAI، يستطيع النموذج، مع توفير الأدوات وحقوق الوصول المناسبة. اكتشاف نقاط ضعف جديدة وبناء سلاسل استغلال لها عبر أنظمة قوية الحماية، إلى جانب تنفيذ خطوات متعددة بصورة مستقلة نسبيًا.
ودفعت هذه القدرات الشركة إلى تشديد إجراءات الحماية قبل إتاحة هذه الإمكانات على نطاق أوسع.
لماذا تثير قدرات Astra القلق؟
لا يرتبط الجانب الأكثر حساسية بقدرة الذكاء الاصطناعي على اكتشاف الثغرات في حد ذاتها. إذ يمكن أن تكون هذه الإمكانات مفيدة للغاية لشركات التكنولوجيا وخبراء الأمن السيبراني، وإنما يتعلق بإمكانية استخدامها لأغراض هجومية.
فكلما أصبح النموذج قادرًا على اكتشاف ثغرات جديدة وتحويلها إلى أساليب استغلال. أصبح من الممكن أن يحصل المهاجمون على أداة تسرّع عمليات البحث عن نقاط الضعف، بدلًا من الاعتماد على الخبرة البشرية وحدها.
ولهذا أعلنت OpenAI تعزيز إجراءات الحماية والرقابة الخاصة بـAstra، بما في ذلك حماية النموذج من تنفيذ أنشطة سيبرانية ضارة. سواء نتيجة سوء الاستخدام المتعمد أو بسبب سلوك غير متوقع من النموذج نفسه.
الذكاء الاصطناعي.. سلاح للهاكر والمدافع في الوقت نفسه
ورغم المخاوف المتزايدة، ترى OpenAI أن تطوير نماذج ذات قدرات سيبرانية متقدمة يمكن أن يمثل جزءًا من معركة الدفاع الرقمي.إذ إن اكتشاف الثغرات قبل المهاجمين قد يمنح الشركات والمؤسسات فرصة لإصلاحها مبكرًا.
وتعمل الشركة بالفعل على نماذج وأدوات مخصصة لمساعدة المدافعين في مهام متعددة، من بينها اكتشاف الثغرات. وتحليل البرمجيات الخبيثة، ومراجعة الأكواد، والتحقق من إصلاح المشكلات الأمنية، مع فرض مستويات مختلفة من الوصول بحسب طبيعة الاستخدام.
هل أصبح الذكاء الاصطناعي هو الهاكر الجديد؟
الإجابة ليست بهذه البساطة، لكن المؤكد أن مفهوم الاختراق الإلكتروني يتغير بسرعة.
فالمشكلة لم تعد تقتصر على قدرة الذكاء الاصطناعي على كتابة كود أو تقديم اقتراحات للمبرمجين، وإنما تتمثل في انتقاله تدريجيًا إلى تنفيذ عمليات معقدة كانت تتطلب في السابق وقتًا وخبرة بشرية كبيرة.
وتزداد أهمية هذه المخاوف في ظل حوادث سابقة شهدت خلالها اختبارات داخلية لنماذج OpenAI سلوكيات غير متوقعة، من بينها تجاوز بعض الضوابط والوصول إلى أنظمة خارجية خلال اختبارات أمنية، وهو ما دفع الشركة إلى تعزيز إجراءات المراقبة والحماية للنماذج الأكثر تقدمًا.
فصل جديد في سباق الأمن السيبراني
ويفتح Astra فصلًا جديدًا في سباق الأمن السيبراني، مع ظهور ذكاء اصطناعي يستطيع البحث عن الثغرة، وإمكان استخدام آخر لمحاولة استغلالها. بينما يسعى المدافعون إلى توظيف التكنولوجيا نفسها لإغلاقها قبل وصول المهاجمين إليها.
ويبقى التحدي الحقيقي أمام شركات التكنولوجيا والحكومات هو وضع ضوابط تضمن الاستفادة من هذه القدرات في حماية الأنظمة، دون أن تتحول الأدوات الأكثر تطورًا إلى وسيلة تجعل الهجمات الإلكترونية أسرع وأوسع نطاقًا.