كشفت جامعة كارنيجي ميلون ومركز الذكاء الاصطناعي في ولاية بنسيلفانيا، أنه يمكن اختراق أنظمة الأمان والسلامة الخاصة بأدوات الذكاء الاصطناعي الجديدة بكل سهولة.
وقالت الجامعة أنه وفقًا لنتائج دراسة حديثة: “إن أدوات الذكاء الاصطناعي مثل Bard الخاص بشركة Google وChatGPT الصادر من شركة OpenAI وروبوت دردشة Claude من شركة أثروبيك Anthropic غير آمنة على الإطلاق”.
خطورة اختراق روبوتات الدردشة
أكد باحثون في جامعة كارنيجي ميلون ومركز الذكاء الاصطناعي في بنسيلفانيا، أن أنظمة الأمان في هذه الروبوتات يمكن اختراقها بسهولة تامة.
وبينت هذه الدراسة الحديثة أنه تم استخدام برامج كسر الحماية jailbreaks التي تم تطويرها لأنظمة مفتوحة المصدر لاستهداف أنظمة الذكاء الاصطناعي السائدة.
كذلك أظهرت الدراسة أن الهجمات العدائية الآلية، التي تتم بشكل أساسي عن طريق إضافة أحرف إلى نهاية استفسارات المستخدم، يمكن استخدامها في:
- كسر واختراق قواعد السلامة.
- استفزاز روبوتات المحادثة لإنتاج محتوى ضار أو معلومات مضللة أو خطاب يحض على الكراهية.
يذكر أن مجرمو الإنترنت كانوا قد نجحوا في إيجاد طرق لكسر حواجز النظام الأساسي لروبوتات الدردشة مثل ChatGPT من OpenAI وBing المدعوم بالذكاء الاصطناعي من مايكروسوفت.
ولكن الجدير بالذكر أن العديد من الشركات التكنولوجية سارعت نحو تصحيح العديد من الاختراقات، ولاتزال تحاول تحسين الخدمة المقدمة.
اقرأ أيضًا:
استغلال ChatGPT لسرقة واختراق حسابات فيسبوك.. تفاصيل