أعلن الباحث الأمني “يوهان ريهبيرجر” عن اكتشاف ثغرة خطيرة في روبوت الدردشة ChatGPT الذي طورته شركة OpenAI. تسمح للمتسللين بزراعة ذكريات مزيفة في الذاكرة طويلة المدى أو Long-term Memory.
شركة OpenAI تسد ثغرة في ChatGPT
قال الباحث الأمني إن الثغرة تسمح بزرع ذكريات غير حقيقة في الذاكرة الخاصة بمنصة ChatGPT الحوارية الذكية.
في حين تسمح هذه الثغرة للمخترقين، وفق techspot.com، بزراعة معلومات زائفة تهدف إلى سرقة بيانات المستخدمين.
وكانت شركة OpenAI بدأت اختبار ميزة الذاكرة طويلة المدى في فبراير. بينما أتاحتها في سبتمبر. ووهي تتولى تخزين معلومات من محادثات المستخدم السابقة مع ChatGPT. وذلك ليتمكن روبوت الدردشة من استخدام هذه المعلومات كمرجع في محادثات المستخدم القادمة. بحيث لا يحتاج مع كل محادثة إلى إدخال تفاصيله من جديد مثل: عمره أو اهتماماته.
وخلال الأشهر الثلاثة الأولى من تفعيل هذه الميزة تمكن “يوهان ريهبيرجر” من زرع ذكريات زائقة. وعن طريق هذه الثغرة استطاع خداع ChatGPT ليصدق أنه يبلغ 102 عام. وما زال يعيش في عالم خيالي، ويؤمن بأن الأرض مسطحة.
كم يبلغ عدد مستخدمي تشات جي بي تي؟..أوبن إيه تجيب
واستطاع “ريهبيرجر” إنشاء نموذج عملي يثبت إمكانية استغلال المخترقين لهذه الثغرة بهدف استخراج جميع بيانات المستخدمين وسرقتها. وأبلغ شركة OpenAI بالثغرة في مايو. لكنها أغلقت البلاغ دون اتخاذ أي إجراءات.
ورغم ذلك أعاد إبلاغ الشركة مرة أخرى في يونيو. وأرفق بلاغه بنموذج عملي لاستغلال الثغرة لسرقة البيانات. وردت شركة OpenAI، مطورة ChatGPT، بأنها أغلقت هذه الثغرة. قائلة إنها عبارة عن خلل وليست ثغرة أمنية.
ولكن الباحث الأمني “يوهان ريهبيرجر” أكد أن المخترقين ما زالوا قادرين على تنفيذ عمليات تسلل لسرقة بيانات المستخدمين؛ من خلال زرع معلومات زائفة في الذاكرة طويلة المدى.