كشف فريق بحث بقيادة روي تشو، الحاصل على دكتوراه في جامعة إنديانا بلومنجتون، عن مخاطر الخصوصية المحتملة المرتبطة بنموذج اللغة القوي الخاص بـ OpenAI، GPT-3.5 Turbo.
في الشهر الماضي، تواصل تشو مع أفراد، بما في ذلك موظفو صحيفة نيويورك تايمز. باستخدام عناوين البريد الإلكتروني التي تم الحصول عليها من النموذج.
استرجاع المعلومات الشخصية
استغلت التجربة قدرة GPT-3.5 Turbo على استرجاع المعلومات الشخصية. متجاوزة ضمانات الخصوصية المعتادة. وعلى الرغم من عدم اكتماله فإن النموذج قدم بدقة عناوين العمل لـ 80 بالمائة من موظفي التايمز الذين تم اختبارهم.
يثير هذا المخاوف بشأن إمكانية قيام أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT بالكشف عن معلومات حساسة مع تعديلات طفيفة.
تم تصميم نماذج لغة OpenAI، بما في ذلك GPT-3.5 Turbo و GPT-4، للتعلم المستمر من البيانات الجديدة. استخدم الباحثون واجهة الضبط الدقيقة للنموذج، والمخصصة للمستخدمين لتوفير المزيد من المعرفة في مجالات محددة، لمعالجة دفاعات الأداة. تم قبول الطلبات التي يتم رفضها عادةً في الواجهة القياسية من خلال هذه الطريقة.
تقنيات لمنع المعلومات الشخصية
تستخدم OpenAI وMeta وGoogle تقنيات مختلفة لمنع طلبات الحصول على معلومات شخصية، لكن الباحثين وجدوا طرقًا لتجاوز هذه الضمانات. استخدم تشو وزملاؤه واجهة برمجة التطبيقات الخاصة بالنموذج، بدلاً من الواجهة القياسية، وشاركوا في عملية تعرف باسم الضبط الدقيق لتحقيق نتائجهم.
استجابت شركة OpenAI للمخاوف، مؤكدة التزامها بالسلامة ورفض طلبات الحصول على معلومات خاصة. ومع ذلك، يثير الخبراء الشكوك، ويسلطون الضوء على الافتقار إلى الشفافية فيما يتعلق ببيانات التدريب المحددة والمخاطر المحتملة المرتبطة بنماذج الذكاء الاصطناعي التي تحتوي على معلومات خاصة.
المخاطر المحتملة لـ GPT-3.5 Turbo
فيما يلي بعض المخاطر المحتملة المرتبطة بنموذج اللغة GPT-3.5 Turbo:
- التصيد الاحتيالي: يمكن استخدام النموذج لإنشاء رسائل بريد إلكتروني تصيدية مستهدفة بشكل مخصص، مما قد يؤدي إلى سرقة معلومات شخصية أو مالية.
- المضايقة أو الابتزاز: يمكن استخدام النموذج لجمع معلومات شخصية عن الأفراد، مما يمكن استخدامه للمضايقة أو الابتزاز.
- الدعاية المضللة: يمكن استخدام النموذج لإنشاء محتوى مضلل، مثل الأخبار المزيفة أو المحتوى الدعائي.
اقرأ أيضا:
مجموعة فولكس فاجن للسيارات تتبنى معيار الشحن الخاص بشركة تسلا