كشفت تقارير متخصصة في الأمن السيبراني عن أسلوب هجومي جديد تستخدمه مجموعات قرصنة روسية متقدمة للتحايل على أنظمة الفحص الأمني المعتمدة على الذكاء الاصطناعي. من خلال تضمين عبارات ومصطلحات حساسة داخل الشيفرات البرمجية للبرمجيات الخبيثة.
ويستهدف هذا الأسلوب استغلال قواعد الأمان والقيود الأخلاقية المدمجة في نماذج الذكاء الاصطناعي التوليدي. لدفعها إلى رفض تحليل الملفات أو التوقف عن فحصها عندما تتضمن محتويات مرتبطة بالأسلحة النووية أو المواد المحظورة. بما قد يمنح البرمجيات الخبيثة فرصة للإفلات من عمليات الكشف.
استغلال القيود الأخلاقية للذكاء الاصطناعي
وبحسب تقرير نشره موقع Help Net Security. يعتمد هذا التكتيك على التلاعب بآليات الحماية الموجودة في النماذج الذكية المستخدمة ضمن بعض منصات الدفاع السيبراني وأدوات التحليل الآلي.
وتتعامل بعض النماذج مع كلمات أو موضوعات محددة باعتبارها محتوى شديد الحساسية. ما قد يؤدي إلى رفض معالجة النص أو تحليل الملف بالكامل. حتى عندما يكون الهدف من التحليل أمنيًا مشروعًا.
ويحاول المهاجمون استغلال هذا السلوك عبر إدخال تلك المصطلحات داخل الملفات الخبيثة. بهدف تحويل أنظمة الحماية نفسها إلى عائق أمام عملية الفحص. بدلًا من أن تكون أداة لاكتشاف التهديد.
ثغرة جديدة في أنظمة الحماية
ويرى خبراء الأمن السيبراني أن هذا الأسلوب يكشف تحديًا متزايدًا أمام أدوات الدفاع الرقمي التي تعتمد على نماذج اللغة في تحليل الأكواد والملفات المشبوهة.
فبدلًا من مهاجمة نظام الحماية بصورة مباشرة، يحاول المهاجم التأثير على طريقة استجابة النموذج نفسه. من خلال تقديم محتوى مصمم لاستثارة قواعد الرفض والحماية الخاصة به.
وقد يؤدي نجاح هذا الأسلوب إلى تعطيل عملية التحليل. ما يفتح المجال أمام الملفات الضارة لمواصلة نشاطها داخل البيئات المستهدفة دون اكتشافها بالسرعة المطلوبة.
مطالب بإعادة تصميم آليات الفحص الأمني
ودفعت هذه التطورات خبراء الأمن السيبراني إلى المطالبة بإعادة النظر في طريقة تصميم أنظمة الحماية المعتمدة على الذكاء الاصطناعي. خصوصًا عند استخدامها في عمليات التحليل الأمني والتحقيق الجنائي الرقمي.
ويركز أحد المقترحات الرئيسية على الفصل بين قيود استخدام نماذج الذكاء الاصطناعي الموجهة للمستخدمين العاديين. وبين أنظمة التحليل الأمني المتخصصة التي تحتاج إلى التعامل مع محتوى ضار أو شديد الحساسية باعتباره جزءًا من عملية الفحص.
ومن شأن هذا النهج تقليل فرص استغلال القراصنة للقيود الأخلاقية للنماذج اللغوية. وتعزيز قدرة أدوات الدفاع السيبراني على تحليل الملفات المشبوهة واكتشاف التهديدات. حتى عندما تتضمن محتويات مصممة خصيصًا لتجاوز أنظمة الحماية.