مع تزايد الاعتماد على الذكاء الاصطناعي في إدارة الخدمات واتخاذ القرارات، ظهرت أساليب جديدة للهجوم لا تستهدف اختراق الأنظمة أو سرقة كلمات المرور. وإنما تركز على التأثير في طريقة تفكير نماذج الذكاء الاصطناعي نفسها.
ويعد تسميم البيانات (Data Poisoning) من أخطر هذه التهديدات. إذ يعتمد على التلاعب بالبيانات التي تتدرب عليها النماذج قبل تشغيلها؛ ما يؤدي إلى نتائج مضللة أو سلوكيات غير متوقعة.
ووفقًا لتحليل نشرته MIT Technology Review، تعتمد نماذج الذكاء الاصطناعي الحديثة على كميات هائلة من النصوص والصور المجمعة من الإنترنت لتدريبها. ويستغل المهاجمون هذه الآلية عبر إدخال بيانات معدلة بطريقة يصعب على البشر ملاحظتها، لتصبح جزءًا من عملية التدريب وتؤثر في قرارات النموذج لاحقًا.
كيف يعمل تسميم البيانات؟
تختلف هجمات تسميم البيانات عن الهجمات الإلكترونية التقليدية، إذ لا يسعى المهاجم إلى اختراق النظام بشكل مباشر. بل يعمل على إدخال معلومات أو صور مضللة داخل مجموعات البيانات المستخدمة في التدريب، ما يؤدي إلى بناء روابط واستنتاجات خاطئة داخل النموذج.
وفي بعض الحالات، يمكن زرع ما يعرف بـ”الباب الخلفي” (Backdoor)، بحيث يتصرف النظام بصورة طبيعية في أغلب الأوقات. لكنه ينفذ سلوكًا محددًا بمجرد ظهور رمز أو نمط معين سبق أن تدرب عليه.
مثال على خطورة الهجوم
من الأمثلة التي يطرحها الخبراء إمكانية استهداف أنظمة القيادة الذاتية، عبر تعديل صور إشارات المرور بإضافة نمط بصري صغير لا يلاحظه الإنسان. لكنه يدفع نموذج الذكاء الاصطناعي إلى تفسير إشارة التوقف على أنها إشارة تسمح بزيادة السرعة، وهو ما قد يؤدي إلى نتائج خطيرة.
مراحل التنفيذ
تمر هجمات تسميم البيانات بعدة مراحل متتابعة، تبدأ بحقن بيانات أو صور معدلة داخل المصادر المفتوحة على الإنترنت. سواء عبر مواقع مشاركة البيانات أو المدونات أو المستودعات العامة.
بعد ذلك، تجمع شركات التقنية هذه البيانات ضمن مجموعات التدريب، فيتعلم النموذج العلاقات الخاطئة التي زرعها المهاجم دون أن يكتشفها المطورون.
وعند تشغيل النموذج، يكفي أن يقدم المهاجم صورة أو نصًا يحتوي على النمط السري الذي تدرب عليه النظام، ليتم تفعيل السلوك الخبيث أو تجاوز بعض آليات الحماية.
كيف تواجه الشركات هذا النوع من الهجمات؟
أصبح تأمين بيانات التدريب أولوية لدى شركات الذكاء الاصطناعي. حيث تعتمد على أدوات تحليل وخوارزميات متقدمة للكشف عن الأنماط غير الطبيعية أو البيانات المشبوهة قبل استخدامها في التدريب.
كما تلجأ الشركات إلى أسلوب الفرق الحمراء (Red Teaming)، الذي يعتمد على تكليف فرق متخصصة بمحاولة خداع النماذج واختبار قدرتها على مقاومة الهجمات المختلفة قبل إطلاقها للمستخدمين.
ويؤكد خبراء الأمن السيبراني أن حماية البيانات التي تتعلم منها نماذج الذكاء الاصطناعي أصبحت لا تقل أهمية عن حماية الأنظمة والبنية التحتية نفسها. في ظل الاعتماد المتزايد على هذه التقنيات في مختلف القطاعات.