أعلنت شركة أوبن إيه آي، إطلاق ميزتين أمنيّتين رئيسيتين لروبوتها للدردشة شات جي بي تي، في خطوة تهدف لمواجهة التحديات المتسارعة في مجال أمن الذكاء الاصطناعي.
إطلاق ميزتين أمنيتين رئيسيتين لروبوتها للدردشة
وتتمثل الميزتان الجديدتان في “وضع القفل” (Lockdown Mode) و”الخطر المرتفع” (Elevated Risk)، صممتا خصيصًا لحماية المستخدمين من هجمات حقن الأوامر، وهي أسلوب يستخدمه جهات خبيثة لاستغلال أنظمة الذكاء الاصطناعي بهدف الكشف عن معلومات حساسة أو تنفيذ تعليمات غير مصرح بها.
ويعد وضع القفل إعدادًا متقدمًا اختياريًا موجهًا للمستخدمين المعرضين لمخاطر عالية، مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى. وفقا لـ”تك كرانش”.
ويهدف إلى تعزيز الحماية ضد التهديدات المتقدمة. وفقًا للشركة، يفرض هذا الوضع قيودًا صارمة على كيفية تفاعل شات جي بي تي مع الأنظمة الخارجية للحد من مخاطر تسرب البيانات الناتج عن هجمات حقن الأوامر، مع الإشارة إلى أنه ليس ضروريًا لمعظم المستخدمين.
ويتضمن وضع القفل تعطيل بعض الأدوات والقدرات في شات جي بي تي بشكل إجباري. والتي قد يحاول خصم استغلالها لتسريب معلومات حساسة من محادثات المستخدمين أو التطبيقات المتصلة.
أهمية الميزة
ستكون هذه الميزة متاحة لمشتركي ChatGPT Enterprise وEdu وChatGPT for Healthcare وChatGPT for Teachers. مع خطط لتوسيع نطاقها لتشمل المستخدمين العاديين خلال الأشهر المقبلة.
أما ميزة الخطر المرتفع، فتهدف إلى تصنيف بعض قدرات شات جي بي تي وأطلس وكودكس لتوضيح إمكانيات قد تنطوي على مخاطر إضافية عند استخدامها. حيث يتلقى المستخدمون إشعارًا واضحًا بمستوى الخطر المحتمل.
ستظهر هذه التصنيفات بجانب الميزات التي تتضمن قدرات متصلة بالشبكة. والتي قد تسبب ثغرات أمنية لم تعالج بالكامل وفقًا للمعايير الصناعية.
وتأتي هذه الخطوة في ظل تزايد التحذيرات من عمليات الاختراق التي تستغل الثغرات في أدوات الذكاء الاصطناعي. ما يعكس حاجة الشركات إلى تعزيز أنظمة الحماية لمستخدمي هذه التقنيات المتقدمة.