خضعت شركة جوجل مؤخرًا للتدقيق بسبب نموذج المحادثة المعاد تسميته، Gemini (المعروف سابقًا باسم Bard)، عندما بدأ برنامج الدردشة الآلي في إنشاء صور غير دقيقة لشخصيات تاريخية.
بعد ملاحظة الخطأ، أوقف عملاق التكنولوجيا مؤقتًا قدرات توليد الأشخاص حتى يتمكن من تأكيد الحل.
ومع تأكيد الشركة على التزامها بجودة المعلومات وحمايتها، فقد دفعت الآخرين إلى التفكير في سلامة ونزاهة نماذج الذكاء الاصطناعي الجديدة وكيفية تأثيرها على المستخدمين.
نحن نأخذ في الاعتبار بعض الأمثلة الواقعية لتحيز الذكاء الاصطناعي وكيف احتشدت الشركات ذات الصلة لإجراء الإصلاحات.
تحميل مطوري الذكاء الاصطناعي المسؤولية عن التحيزات المتأصلة
تصف شركة IBM تحيز الذكاء الاصطناعي بأنه أنظمة تنتج نتائج متحيزة تعكس وتديم التحيزات البشرية داخل المجتمع. وتشمل هذه التفاوتات الاجتماعية التاريخية والحالية.
في سياق الأعمال، يمكن أن يؤثر تحيز الذكاء الاصطناعي على ثقة المؤسسة في أنظمة الذكاء الاصطناعي. ويمكن أن يثير مناقشات حول أخلاقيات الذكاء الاصطناعي.
بالإضافة إلى ذلك، يمكن أن يؤدي الذكاء الاصطناعي المتحيز إلى التمييز ضد أفراد أو مجموعات معينة، مما يؤدي إلى محاباة غير عادلة.
تعد حاجة Google إلى إجراء تحديثات على نموذج Gemini مثالًا على أن الذكاء الاصطناعي لا يقل ذكاءً عن مخترعه. إذا لم يقوم المطور بإبلاغ النموذج بالأحداث التاريخية أو التحيزات الموجودة، فلن يأخذها في الاعتبار في استجاباته. وبالمثل، إذا تم إنشاء الذكاء الاصطناعي مع أخذ التحيز في الاعتبار، فقد يكون ذلك ضارًا جدًا للمستخدمين.
استجابت شركة التكنولوجيا بسرعة ردًا على الشكاوى، وذكرت أنها تعمل على معالجة المشكلة. صرح متحدث باسم Google لصحيفة The Hindu Business Line : “تم تصميم Gemini كأداة للإبداع والإنتاجية وقد لا يكون موثوقًا به دائمًا، خاصة عندما يتعلق الأمر بالاستجابة لبعض المطالبات حول الأحداث الجارية أو الموضوعات السياسية أو الأخبار المتطورة. وهذا شيء نعمل باستمرار على تحسينه.”
التحرك نحو قدر أكبر من المساواة في الذكاء الاصطناعي
عند النظر في هذه الأحداث، فمن الواضح أن الشركات تقوم حاليًا بالعمل على ضمان عدم ظهور التحيز في نتائجها. على سبيل المثال. أخبرت شركة Adobe موقع TechRadar في مقابلة أنها قامت ببرمجة أداة Firefly Gen AI الخاصة بها لتأخذ في الاعتبار عرقهم ومكان إقامتهم ومدى تنوع تلك المنطقة – كل ذلك للتأكد من أن نتائج صورها تعكس واقعهم.
ومع ذلك، لا يزال هناك الكثير مما يتعين القيام به لضمان عدم استمرار الذكاء الاصطناعي في التحيزات.
في الأشهر الأخيرة، تشير الأبحاث التي أجرتها جامعة ستانفورد إلى وجود مخاوف قائمة في السياقات الأكاديمية. على سبيل المثال. وجدت أن أجهزة كشف GPT غالبًا ما تخطئ في تصنيف الكتابة باللغة الإنجليزية لغير الناطقين بها على أنها ناتجة عن الذكاء الاصطناعي. مما أثار مخاوف بشأن التمييز.
كما أثيرت مخاوف مماثلة بشأن الشركات التي تستخدم الذكاء الاصطناعي للمساعدة في عملية التوظيف. مما قد يتسبب في إغفال مجموعات من المرشحين المحتملين.
كذلك أشارت دراسة أخرى أجرتها شركة IBM في أواخر عام 2023 إلى أن 42٪ من الشركات كانت تستخدم فحص الذكاء الاصطناعي “لتحسين التوظيف” – والذي تقول بي بي سي إنه يمكن أن يقوم بتصفية أفضل المرشحين للوظيفة.
في حين أن هناك الكثير من الفوائد لاستخدام الذكاء الاصطناعي بطريقة آمنة ومسؤولة، فمن المهم تقييم وإدارة المخاطر المحتملة لضمان الاستخدام الأخلاقي لأنظمته.
اقرأ أيضًا: