مجلة عالم التكنولوجيا
مجلة تكنولوجية شاملة

الأخلاقيات والذكاء الاصطناعي.. أين نحن عندما يتعلق الأمر بالتحيز والمسؤولية؟


تتمتع الشركات والمستهلكون، على حد سواء، بظهور تقنية الذكاء الاصطناعي (AI)، ويستمتعون بالراحة المتزايدة التي تجلبها تلك الميزة، مثل: تبسيط عمليات سير العمل والمساعدين الصوتيين والسيارات ذاتية القيادة. وعلى الرغم من ذلك، أدى الارتفاع في شعبية الذكاء الاصطناعى إلى مسألة الاستخدام الأخلاقي لتلك التقنية، وهو مجال يثير قلقًا متزايدًا بين المستهلكين.

ونقلًا عن المفوضية الأوروبية، أجرى معهد أبحاث كابجيميني (CRI) دراسة جديدة تؤكد أن الاستخدام الأخلاقي لتقنية الذكاء الاصطناعي أصبح أساسيًا لكسب ثقة المستخدمين”.

وقال حوالي 62% من المشاركين في الدراسة إنهم سيضعون ثقة أكبر في الشركة التي ستقدم تقنية الذكاء الاصطناعي بطريقة أخلاقية. وفي الوقت نفسه، قال 61% إنهم سيشاركون تجارب إيجابية مع الأصدقاء والعائلة، بينما قال 59% إنهم سيصبحون أكثر ولاءً للشركة.

من ناحية أخرى، عندما تؤدي تفاعلات الذكاء الاصطناعي للمستهلكين إلى مشكلات أخلاقية، فإنها تهدد سمعة الشركات ونتائجها الأساسية. وقال حوالي 41% من المشاركين إنهم سيشكون في حال أدى تفاعل الذكاء الاصطناعي إلى مشكلات أخلاقية، بينما سيطالب 36% بتفسير، و34% سيتوقفون عن التفاعل مع الشركة.

في المجمل، استطلعت الدراسة 1580 من المديرين التنفيذيين من المؤسسات الكبيرة في 10 دول، وأكثر من 4400 مستهلك في ست دول، بما في ذلك الصين والهند والولايات المتحدة وبريطانيا.

وقال “جون سيونج لي”؛ المدير الإداري للاستخبارات التطبيقة: “إن نشر الذكاء الاصطناعى دون ربطه بالمبادئ الأساسية والمتطلبات القوية قد يعرض الأعمال التجارية لمخاطر كبيرة، بما في ذلك خصوصية البيانات أو التوظيف أو الموارد البشرية، وكذلك قضايا الصحة والسلامة، بالإضافة إلى الغرامات المحتملة والعقوبات وفقدان سمعة العلامة التجارية والثقة”.

وأضاف “لي”: “تمتلك تقنية الذكاء الاصطناعي القدرة على قيادة تحول تجاري واقتصادي واجتماعي كبير، ولكن أثناء ذلك لا بد من تحديد المخاطر والتحديات الجديدة”، موضحًا أن العواقب الضارة وغير المقصودة قد تؤدي إلى رد فعل عكسي للمستهلكين ومشاكل قانونية.


إجراءات عمالقة التكنولوجيا بشأن الذكاء الاصطناعي


على الصعيد العالمي، ألقى عمالقة التكنولوجيا مثل (مايكروسوفت، جوجل، فيسبوك) نظرة جادة على الاستخدام الذكاء الاصطناعي في أنظمتها؛ حيث أطلقت “مايكروسوفت” العديد من مجموعات العمل الداخلية التي تركز على أخلاقيات الذكاء الاصطناعي، بما في ذلك النزاهة والمساءلة والشفافية، كما أن الشركة لديها مجلس استشاري يُعرف باسم “أخلاقيات الذكاء الاصطناعي وآثاره في الهندسة والبحث”.

أما بالنسبة لـ “جوجل”، فأصدرت ميثاقًا أخلاقيًا ومبادئ تخص استخدام الذكاء الاصطناعى في يونيو 2018، لتوجيه التطوير المسؤول واستخدام الذكاء الاصطناعي في أبحاثها ومنتجاتها. كما شكلت الشركة العالمية مجلسًا استشاريًا خارجيًا للتكنولوجيا المتقدمة (ATEAC) في 26 مارس 2019؛ للإشراف على بعض التحديات الأكثر تعقيدًا التي تطرحها “جوجل”، والتي تُنشأ بموجب مبادئ الذكاء الاصطناعى الخاصة بها.

في الوقت نفسه، يلتزم موقع التواصل الاجتماعي “فيسبوك” بمجموعة من المبادئ الأخلاقية والمبادئ التوجيهية التشغيلية عند إجراء البحوث وتقييم استخدامات البيانات وبناء منتجاتها والمشاركة في ممارسات العمل. يتضمن ذلك مبادئ مراجعة أبحاث “فيسبوك” وعملية مراجعة وظائف الخصوصية.

تشارك الشركة أيضًا في العديد من اتحادات أصحاب المصلحة المتعددين التي تعمل على قضايا النزاهة الحسابية والشفافية والمساءلة، بما في ذلك الشراكة بشأن الذكاء الاصطناعي ومبادرة “AI 4 People”. كما تستخدم أداة داخلية تُعرف باسم “تدفق الإنصاف” (Fairness Flow)؛ لقياس نزاهة الخوارزميات، للمساعدة في تحديد التحيزات المحتملة في الذكاء الاصطناعي لمجالات مثل خوارزميات التوصية الوظيفية.


منع التحيز الحسابي


قال “إميل أسموسن”؛ المدير الإبداعي في “VIRTUE”، إنه على الرغم من عدم وجود حل واحد لحل مشكلة التحيز الحسابي، إلا أن نقطة الانطلاق الكبرى تتمثل في التنوع. ووفقا له، فإن الفريق المتنوع سيكون أكثر احتمالًا للكشف عن أي تحيزات عنصرية أو عرقية أو جنسية وتغييرها قبل انتشارها.

وفي شهر مارس من هذا العام، قام ” أسموسن” وفريقه بتطوير أول مساعد صوتي يعمل بتقنية الذكاء الاصطناعي في العالم. وأضاف ” أسموسن”: “أدرك فريقنا أنه يجب أن يكون هناك تنوع بين الجنسين؛ وذلك من أجل علاج مسألة الذكاء الاصطناعى الأخلاقي من زوايا متعددة”.

يُقال إن شركات التكنولوجيا تستخدم الصوت الأنثوي في بعض السيناريوهات وأصوات الرجال في البعض الآخر؛ لأنهم يعتقدون أنه سيجعل الناس أكثر راحة في تبنيها واستخدامها. ويتم استخدام الصوت الأنثوي في أدوار أكثر توجهًا نحو الخدمة، مثل Alexa أو Siri، بينما يتم استخدام الصوت الذكوري في أدوار أكثر موثوقية، مثل التطبيقات المصرفية والتأمين.


من يجب أن يتحمل المسؤولية؟


يُعتبر المساعد الصوتي الذي لا يستطيع التعرف على لهجات الناطقين باللغة الإنجليزية من غير الناطقين بها مشكلة أخلاقية. وعلي الرغم من ذلك، فإن القضية الأكبر المتعلقة بالذكاء الاصطناعي تتمثل في دخول حوادث السيارات.

في الآونة الأخيرة، كانت شركة ” تسلا” متورطة في حادث سيارة، عندما قتلت امرأة في سان فرانسيسكو سائحًا وتركت زوجته مصابة بجروح خطيرة. ووفقًا لوكالة “أسوشيتيد برس”، تُحقق السلطات فيما إذا كانت ميزة الطيار الآلي، وهو نظام ذاتي القيادة جزئيًا، تم تنشيطه عند حدوث التصادم.

ولم يتم استثناء شركة ” أوبر” أيضًا من حوادث القيادة الذاتية؛ حيث أوقفت عملياتها ذاتية القيادة في أربع مدن أمريكية العام الماضي بعد حادث تصادم قاتل شمل مركبة أوبر ذاتية القيادة في أريزونا.

وعندما يتعلق الأمر بمن يتحمل مسؤولية مثل هذه الأخطاء، فإن العبء يقع على عاتق الشركات؛ لذا يجب على الشركات أن تبدي اهتمامًا واستعدادًا لحل الأخطاء التي تسببها البرامج التي تساعد في إنشائها.


المساءلة الأخلاقية في العمل


رغم أنه من المستحيل الحصول على “بيانات غير متحيزة”، قال “لي”: “إن بإمكان الشركات اتخاذ خطوات مفيدة لجعل أنظمة الذكاء الاصطناعي أكثر وضوحًا وشفافية؛ وذلك لتخفيف أي تحيز غير مقصود”، موضحًا أنه يتعين على الشركات أن تضع مبادئ تتناول كيفية تصميم ونشر الذكاء الاصطناعي، والمساعدة في ضمان أن المنهجية وراء استخدام كل حالة تكون مدروسة وشفافة.

إن ضمان استخدام تقنية الذكاء الاصطناعي بطريقة أخلاقية في الشركات هي عملية مستمرة وستُظهر بلا شك مشاكل غير متوقعة. في حين أن التأكد من أن الأفراد الذين يستخدمون الذكاء الاصطناعى يعتمدون على مجموعة بيانات شاملة ومتنوعة يمثل بداية رائعة، فإن أفضل ما يمكن أن تفعله الشركات هو أن تكون على دراية تامة بالقضايا والتأكد من أن الفرق العاملة على المنتجات تشمل جميع أنواع الأفراد. 


المصدر: Ethics and AI: Where are we when it comes to bias and responsibility؟


بعد قراءة الموضوع يمكنك معرفة المزيد عن الكلمات الآتية:


5G Apple Google iPhone oppo آبل أبل أمازون أمن المعلومات أندرويد إنترنت الأشياء إيلون ماسك الأمن السيبراني الإنترنت البطارية البيانات التكنولوجيا الذكاء الاصطناعي الروبوتات الزراعة السيارات الكهربائية الصين الطاقة الفضاء المدن الذكية المملكة المملكة العربية السعودية الهواتف الذكية تطبيق تطبيقات تقنية تويتر تيسلا جوجل سامسونج سيارة عالم التكنولوجيا فيروس كورونا فيسبوك كاسبرسكي كورونا مايكروسوفت ناسا هاتف هواوي


الرابط المختصر :
close

مرحبا 👋

سعداء بالتواصل معكم
قم بالتسجيل ليصلك كل جديد

نحن لا نرسل البريد العشوائي! اقرأ سياسة الخصوصية الخاصة بنا لمزيد من المعلومات.

اترك رد

لن يتم نشر عنوان بريدك الإلكتروني.