حذر باحثون في مجال الأمن السيبراني من وجود ثغرة تتعلق بالخصوصية في روبوت الدردشة «جيميني» التابع لشركة جوجل الأمريكية. قد تتيح الوصول إلى بيانات حساسة من تقويم المستخدمين دون علمهم. ما يثير تساؤلات جديدة بشأن أمان مساعدي الذكاء الاصطناعي.
كيف تم استغلال الثغرة؟
كشف باحثون من منصة أمن التطبيقات «ميجو سكيورتي» أنهم نجحوا في خداع «جيميني» عبر إرسال دعوة من «تقويم جوجل» مصحوبة برسالة نصية فقط. تضمنت أوامر موجهة للروبوت لتنفيذ مهام محددة دون علم المستخدم.
وبحسب تقرير نشره موقع «ماشابل» المتخصص في التكنولوجيا. تضمنت هذه الأوامر مطالبة «جيميني» بتلخيص جميع الاجتماعات التي عقدها المستخدم في يوم معين. ثم إدراج هذه المعلومات داخل وصف دعوة تقويم جديدة.
تسريب البيانات دون علم المستخدم
وأوضح الباحثون أن الروبوت يُخفي هذه البيانات عن المستخدم المستهدف. إذ يظهر له أن الوقت المعني «وقت فراغ» عند الاستفسار عن جدول المواعيد. في حين تكون الدعوة الجديدة التي تحتوي على ملخص الاجتماعات مرئية فقط للطرف المهاجم.
«الحقن غير المباشر للأوامر»
وأشار التقرير إلى أن هذا النوع من الهجمات يُعرف باسم «الحقن غير المباشر للأوامر». وهو أسلوب بات شائعًا بين المخترقين، ولا يقتصر على «جيميني» فقط، بل يستهدف عدداً من مساعدي الذكاء الاصطناعي الذين يعتمدون على تحليل البيانات تلقائيًا لتقديم المساعدة.
لماذا يُعد «جيميني» هدفًا سهلًا؟
يعتمد «جيميني» على تحليل بيانات الأحداث والمواعيد بشكل تلقائي لدعم المستخدم. وهو ما يمنحه قدرات متقدمة. لكنه في الوقت نفسه يجعله عرضة للاستغلال إذا لم يتم التحقق بدقة من مصدر الأوامر ونواياها.
دعوات لتعزيز حماية مساعدي الذكاء الاصطناعي
ودعا الباحثون شركات الذكاء الاصطناعي إلى تطوير آليات أكثر دقة لفهم سياق الأوامر ونية المستخدم الحقيقية، بما يسهم في تقليل فرص استغلال هذه الأنظمة لأغراض خبيثة.
من جانبها، أكدت شركة جوجل أنها تمتلك عددًا من آليات الحماية للتصدي لمثل هذه الهجمات. مشيرة إلى أن الثغرة التي كشف عنها الباحثون تم إبلاغ الشركة بها وإصلاحها.
وقال متحدث باسم جوجل في تصريح لموقع «ماشابل»: نُقدّر الإفصاح المسؤول من مجتمع الباحثين، إذ يسهم في تعزيز منظومات الحماية وتحسين أمان المستخدمين.