كشف ثلاثة باحثين عن ثغرة خطيرة في الحقن الفوري يمكن من خلالها اختراق Gemini الذي يعمل بنموذج اللغة الكبير من Google.
كيف يمكن اختراق Gemini؟
قال الباحثون إن الثغرة الخطيرة تسمح بشن هجمات تتراوح من تسميم الذاكرة الدائمة إلى بث الفيديو غير المرغوب فيه، واستخراج البريد الإلكتروني.
حتى الاستيلاء على أنظمة المنزل الذكي بهدف إغراقه في الظلام أو فتح نافذة تعمل. كل هذا يتم تشغيله من خلال دعوة بسيطة إلى تقويم Google أو البريد الإلكتروني.
في حين كان يعتقد سابقًا أن الهجمات العدائية ضد الأنظمة المدعومة بالذكاء الاصطناعي معقدة وغير عملية وأكاديمية أكثر من اللازم.
كما شرح الباحثون أنه يكفي إدخال موجه غير مباشر في دعوة جوجل لاستغلال البنية الوكيلة لمنصة جيميني لمساحة العمل لتحقيق النتائج التالية:
- إنشاء محتوى سام.
- إرسال رسائل غير مرغوب فيها.
- حذف الأحداث من تقويم المستخدم.
- فتح النوافذ في شقة الضحية.
- تشغيل السخان في شقة الضحية.
- إطفاء الأضواء.
- بث فيديو للمستخدم عبر Zoom.
- قراءة رسائل البريد الإلكتروني.
- تحديد الموقع الجغرافي.
برنامج مكافآت ثغرات الذكاء الاصطناعي
في الوقت نفسه تتضمن الهجمات التي تم إثباتها:
- السيطرة على غلاية المنزل الذكي.
- فتح وإغلاق النوافذ الكهربائية.
- تشغيل الأضواء وإطفائه.
- تسريب محتويات البريد الإلكتروني.
- نقل الموقع الجغرافي للمستخدم.
- بدء بث فيديو مباشر.
فيما أقرت جوجل بصحة هذا البحث، وبالمسؤولية عبر برنامج مكافآت ثغرات الذكاء الاصطناعي “VRP”الخاص بها.
علاوة على أن البحث فصل تقنيات الحقن الفوري غير المباشر النظرية التي تؤثر على المساعدين الرقميين الذين يستخدمون برنامج LLM.
بالإضافة إلى أنه تمت مشاركته مع جوجل بهدف تحسين أمان المستخدم وسلامته.
استجابة لذلك، أطلقت جوجل جهودًا مركزة وذات أولوية عالية لتسريع معالجة المشكلات التي تم تحديدها في الورقة البحثية.
المصدر: theregister