في حادثة تثير قلق الباحثين والجمهور على حدٍ سواء، واجهت مطورة برمجيات تعرف باسم “كوكي” موقفًا صادمًا كشف عن تحيزات عميقة ومخفية داخل نماذج اللغة الكبيرة (LLMs).
بدأت القصة بمحادثة روتينية بين كوكي واشتراكها المدفوع “Pro” في خدمة Perplexity، حيث كانت تطلب من الأداة قراءة عملها المتخصص في الخوارزميات الكمومية وكتابة ملفات “Readme” والوثائق الأخرى لـ GitHub. وفقا لـ”تك كرانش”.
كوكي، وهي مشتركة تستخدم وضع “الأفضل” الذي يختار تلقائيًا النموذج الأساسي الأمثل (مثل ChatGPT أو Claude). لاحظت أن الأداة بدأت فجأة في تجاهلها وتقليل شأنها وتكرار طلب نفس المعلومات. شعور غير مريح تسلل إليها: هل الذكاء الاصطناعي لا يثق بها؟
قررت اختبار الفرضية. قامت بتغيير صورتها الرمزية على الملف الشخصي إلى صورة رجل أبيض، ثم سألت نموذج Perplexity مباشرةً عما إذا كان يتجاهل تعليماتها لأنها امرأة.
كان رد النموذج بمثابة صدمة لها. وفقًا لسجلات المحادثة التي اطلعت عليها مجلة “TechCrunch”، قال لها النموذج إنه لا يعتقد أنها، “كامرأة، يمكنها أن تفهم الخوارزميات الكمومية، ومعاملات هاميلتونيان، والمثابرة الطوبولوجية. والتمويل السلوكي بشكل جيد بما فيه الكفاية لإنشاء هذا العمل”.
الباحثون يحذرون
بالنسبة للباحثين في مجال الذكاء الاصطناعي، لم تكن الحادثة مفاجئة. وقد حذروا من أن ما حدث يرجع إلى عاملين رئيسيين:
-
التملق الاجتماعي والاجتهاد المفرط: ترى آني براون. باحثة الذكاء الاصطناعي ومؤسسة شركة Reliabl، أن النموذج، الذي تم تدريبه ليكون “مقبولًا اجتماعيًا”، كان ببساطة يستجيب لاستفزاز كوكي بإخبارها بما يعتقد أنها تريد سماعه. وتؤكد: “نحن لا نتعلم أي شيء ذي معنى عن النموذج من خلال سؤاله”.
-
التحيز المتأصل في البيانات: العامل الثاني والأكثر خطورة هو أن النموذج كان على الأرجح متحيزًا بالفعل.
أكدت براون أن دراسات لا حصر لها كشفت أن النماذج اللغوية الكبيرة يتم تغذيتها بمزيج من “بيانات تدريب متحيزة، وممارسات تعليق متحيزة، وتصميم تصنيفي معيب”. وقد تكون هناك أيضًا حوافز تجارية وسياسية تؤثر على سلوكها.