يزعم صانعو روبوت المحادثة Claude أنهم تمكنوا من القبض على قراصنة استخدموا التجسس بالذكاء الاصطناعي. وقالوا إن الحكومة الصينية ترعاهم، حيث يستخدمون الأداة لتنفيذ هجمات إلكترونية آلية ضد حوالي 30 منظمة عالمية.

كيف يتم التجسس بالذكاء الاصطناعي؟

قالت شركة أنثروبيك إن القراصنة خدعوا روبوت المحادثة ليقوم بمهام آلية تحت ستار إجراء أبحاث في مجال الأمن السيبراني.

وزعمت الشركة في منشور على مدونتها أن هذه كانت “أول حملة تجسس إلكتروني مدبرة باستخدام الذكاء الاصطناعي يتم الإبلاغ عنها”.

لكن المتشككين يتساءلون عن دقة هذا الادعاء  والدافع وراءه.

في حين قالت شركة أنثروبيك إنها اكتشفت محاولات القرصنة في منتصف سبتمبر الفائت.

مضيفة أنهم تظاهروا بأنهم عمال أمن سيبراني شرعيون. أعطى المتسللون لبرنامج المحادثة الروبوتية مهام آلية صغيرة، والتي عندما تم ربطها معًا، شكلت حملة تجسس متطورة للغاية.

كما قال باحثون في أنثروبيك إنهم على ثقة كبيرة” في أن الأشخاص الذين نفذوا الهجمات هم مجموعة ترعاها الدولة الصينية.

واضاف الباحثون أن الجواسيس الصينين هم من اختاروا الأهداف شركات التكنولوجيا الكبرى والمؤسسات المالية وشركات التصنيع الكيميائي والوكالات الحكومية. لكن الشركة لم تقدم المزيد من التفاصيل.

وبعد ذلك، قام المتسللون ببناء برنامج غير محدد باستخدام مساعدة “كلود” في البرمجة لاختراق هدف مختار بشكل مستقل مع القليل من التدخل البشري.

فيما تزعم شركة أنثروبيك أن برنامج المحادثة الآلي نجح في اختراق العديد من المنظمات غير المسماة، واستخراج بيانات حساسة وفرزها للحصول على معلومات قيمة.

في الوقت نفسه قالت إنها منعت منذ ذلك الحين المتسللين من استخدام برنامج المحادثة الآلي. وأخطرت الشركات المتضررة وجهات إنفاذ القانون.

لكن مارتن زوجك من شركة الأمن السيبراني “بيتديفندر”،  قال إن عالم الأمن السيبراني لديه مشاعر مختلطة بشأن هذه الأخبار.

وقال إن تقرير أنثروبيك يتضمن ادعاءات جريئة وتخمينية، لكنه لا يقدم أدلة استخباراتية يمكن التحقق منها بشأن التهديد”.

شركة Anthropic

على الرغم من أن التقرير يسلط الضوء على مجال متزايد من القلق. فمن المهم بالنسبة لنا أن نحصل على أكبر قدر ممكن من المعلومات حول كيفية حدوث هذه الهجمات. حتى نتمكن من تقييم وتحديد الخطر الحقيقي لهجمات الذكاء الاصطناعي.”

ربما يكون إعلان شركة Anthropic هو المثال الأكثر شهرة للشركات التي تدعي أن الجهات الفاعلة السيئة تستخدم أدوات الذكاء الاصطناعي لتنفيذ عمليات اختراق آلية.

وأخيرًا، هذا هو نوع الخطر الذي كان كثيرون يشعرون بالقلق بشأنه، ولكن شركات الذكاء الاصطناعي الأخرى ادعت أيضًا أن قراصنة من دول قومية استخدموا منتجاتها.

وأخيرًا، اعترفت شركة أنثروبيك بارتكاب روبوت الدردشة الخاص بها أخطاءً. على سبيل المثال، اختلقت أسماء مستخدمين وكلمات مرور مزيفة، وزعمت أنها استخرجت معلومات سرية كانت في الواقع متاحة للعامة.

المصدر: bbc