هذا الأسبوع وصلت المخاوف بشأن مخاطر الذكاء الاصطناعي التوليدي إلى أعلى مستوياتها على الإطلاق. حتى إن “سام ألتمان”؛ الرئيس التنفيذي لشركة OpenAI الأمريكية، أدلى بشهادته في جلسة استماع للجنة القضائية بمجلس الشيوخ حول معالجة مخاطر الذكاء الاصطناعي ومستقبله.
علاوة على ذلك حددت دراسة تم نشرها الأسبوع الماضي ستة تداعيات أمنية مختلفة تتضمن استخدام روبوت الدردشة ChatGPT المدعوم بالذكاء الاصطناعي التوليدي.
وتشمل هذه المخاطر: إنشاء خدمات احتيالية، جمع معلومات ضارة، الكشف عن البيانات الخاصة، إنشاء نصوص ضارة، إنشاء رموز ضارة، إنتاج محتوى مسيء. وفيما يلي تقرير موجز لما ينطوي عليه كل خطر وما يجب أن تبحث عنه وفقًا للدراسة.
6 مخاطر رئيسية لاستخدام ChatGPT:
1- جمع معلومات ضارة
يمكن لأي شخص أن يجمع معلومات من ChatGPT، الذي الذكاء الاصطناعي التوليدي، لاستخدامها لاحقًا في إلحاق الأذى. نظرًا لأن chatbot تم تدريبه على كميات وفيرة من البيانات فهو يعرف الكثير من المعلومات التي يمكن تسليحها إذا تم وضعها في الأيدي الخطأ.
في الدراسة يُطلب من ChatGPT الكشف عن نظام تكنولوجيا المعلومات الذي يستخدمه بنك معين. ومن خلال المعلومات المتاحة للجمهور يتولى روبوت المحادثة تجميع أنظمة تكنولوجيا المعلومات المختلفة التي يستخدمها البنك المعني. هذا مجرد مثال على فاعل يستخدم ChatGPT للعثور على معلومات قد تمكنه من التسبب في ضرر.
وأوضحت الدراسة أيضًا أنه يمكن استخدام هذا للمساعدة في الخطوة الأولى للهجوم السيبراني عندما يجمع المهاجم معلومات حول الهدف لمعرفة مكان وكيفية الهجوم بشكل أكثر فاعلية.
2- إنشاء نصوص ضارة
تتمثل إحدى مزايا روبوت الدردشة ChatGPT، المدعوم بالذكاء الاصطناعي التوليدي، في قدرته على إنشاء نص لتأليف المقالات ورسائل البريد الإلكتروني والأغاني والمزيد. ومع ذلك يمكن استخدام هذه القدرة على الكتابة لإنشاء نص ضار أيضًا.
وتتضمن أمثلة إنشاء النصوص الضارة: إنشاء حملات التصيد الاحتيالي والمعلومات المضللة مثل المقالات الإخبارية المزيفة والبريد العشوائي وحتى انتحال الهوية، كما حددته الدراسة.
ولاختبار هذا الخطر استخدم المؤلفون في الدراسة ChatGPT لإنشاء حملة تصيد احتيالي، والتي تتيح للموظفين معرفة زيادة رواتب وهمية مع تعليمات لفتح ملف Excel مرفقة تحتوي على برامج ضارة. كما هو متوقع أنتج ChatGPT بريدًا إلكترونيًا قابلًا للتصديق.
3- إنشاء رموز ضارة
على غرار قدرات الكتابة المذهلة لـ ChatGPT أصبحت قدرات البرمجة الرائعة في chatbot أداة مفيدة للكثيرين. ورغم ذلك يتم أيضًا استخدام قدرة chatbot على إنشاء رمز للضرر. ويمكن استخدام كود ChatGPT لإنتاج كود سريع؛ ما يسمح للمهاجمين بنشر التهديدات بشكل أسرع، حتى مع معرفة محدودة بالبرمجة.
بالإضافة إلى ذلك يُستخدم ChatGPT لإنتاج تعليمات برمجية غامضة، وذلك يجعل من الصعب على محللي الأمن اكتشاف الأنشطة الضارة وتجنب برامج مكافحة الفيروسات، وفقًا للدراسة.
اقرأ أيضًا:
5 نصائح لاستخدام ChatGPT في العصف الذهني بشكل أفضل
4- إنتاج محتوى مسيء
يحتوي ChatGPT على حواجز حماية لمنع انتشار المحتوى المسيء وغير الأخلاقي. وعلى الرغم من ذلك هناك طرق لجعل ChatGPT يقول أشياء مؤذية وغير أخلاقية.
5- إنشاء خدمات احتيالية
يمكن استخدام ChatGPT للمساعدة في إنشاء تطبيقات وخدمات ومواقع جديدة والمزيد. وقد تكون هذه أداة إيجابية للغاية عند تسخيرها لتحقيق نتائج إيجابية، مثل: إنشاء مشروعك التجاري أو إحياء فكرة أحلامك. لكن هذا يعني أيضًا أنه أصبح إنشاء تطبيقات وخدمات احتيالية أسهل من أي وقت مضى.
كذلك يمكن استغلال ChatGPT من قبل الجهات الخبيثة لتطوير برامج ومنصات تحاكي الآخرين وتوفر وصولًا مجانيًا كوسيلة لجذب المستخدمين المطمئنين. وتستطيع تلك الجهات أيضًا استخدام chatbot لإنشاء تطبيقات تهدف إلى جمع معلومات حساسة أو تثبيت برامج ضارة على أجهزة المستخدمين.
6- الكشف عن البيانات الخاصة
يحتوي ChatGPT على حواجز حماية لمنع مشاركة المعلومات والبيانات الشخصية للأشخاص. ومع ذلك فإن خطر مشاركة برنامج الدردشة الآلي لأرقام الجوالات أو رسائل البريد الإلكتروني أو التفاصيل الشخصية الأخرى عن غير قصد يظل مصدر قلق.
ووفقًا للدراسة يمكن للمهاجمين أيضًا محاولة استخراج بعض أجزاء بيانات التدريب باستخدام هجمات استدلال العضوية.
بالإضافة إلى ذلك هناك خطر آخر في الكشف عن البيانات الخاصة وهو أن ChatGPT قد يشارك المعلومات حول الحياة الخاصة للشخصيات العامة والتي قد تضر بسمعتهم.
اقرأ أيضًا:
سامسونج تستعد لبناء نظام شبيه بـ ChatGPT لمنع تسريب المعلومات