خاص| خبير: الذكاء الاصطناعي قد يساعد في انتشار المعلومات المضللة

مخاطر الذكاء الاصطناعي غير المنظم
مخاطر الذكاء الاصطناعي غير المنظم

يشهد عالمنا ثورة تكنولوجية كبيرة يقودها الذكاء الاصطناعي، تلك التقنية التي تشعبت في مختلف جوانب حياتنا، مُسخّرةً قدراتها المبهرة لخدمة البشرية في مجالات شتى، بين الطب والتعليم إلى النقل والتصنيع.

ومع ازدياد تعقيد أنظمة الذكاء الاصطناعي وانتشار تطبيقاتها، برز مصطلح جديد يُثير القلق وهو : “الذكاء الاصطناعي غير المنظم”. 

جاء هذا المصطلح محفوفًا بالمخاطر، سواء على مستوى المعلومات أو الاستخدامات.

الذكاء الاصطناعي غير المنظم

في حديث خاص لخبير الذكاء الاصطناعي دكتور ماركو ممدوح الأستاذ بالجامعة الأمريكية، قال لمجلة “عالم التكنولوجيا”، إن الأمر بات مليئًا بكثير من المخاطر بالطبع، لكن أولاً نحتاج أن نعرف ما المقصود بالذكاء الاصطناعي غير المنظم قبل أن نتحدث عن المخاطر، وفي مرحلة تدريب الذكاء الاصطناعي يوجد ما يسمى بالـdataset وهي مجموعة المعلومات التي يجب على الذكاء الاصطناعي التعلم منها ليضيفها إلى معلوماته.

وعادةً لاتنقح الشركات الـdataset نظرًا لضخامة حجمها الكبير والتي تحتاج لوقت طويل جدًا حتى تُراجع جميع المعلومات الموجودة بها، وهذا ما يقودنا في النهاية نحو المعلومات الخاطئة التي تخرج من الذكاء الاصطناعي غير المنظم.

هل أصبحت برامج الذكاء الاصطناعي تمتلك قدرات أكبر على خداعنا؟

ومن هنا يمكننا بوضوح رؤية المخاطر، فبالطبع التعامل مع مجموعة معلومات غير منظمة أو منقحة يكون ناتجها معلومات خاطئة وفي بعض الأحيان تكون متداخلة مع معلومات أخرى أو غير مفهومة.

وتابع خبير الذكاء الاصطناعي دكتور ماركو ممدوح: للأسف معظم الناس يعتبرون كلام الذكاء الاصطناعي بلا أخطاء وعيوب، بل ويعتقده البعض مصدرًا أساسًا للمعلومات الصحيحة، وبالطبع هذا غير حقيقي بالمرة، فالأمر متعلق فقط بمجموعة المعلومات التي تم التدريب عليها وليس لأنه ذكاء اصطناعي فهو صحيح.

الأمر أشبه بالمعطيات والنتائج، فكلما كانت المعطيات جيدة وصحيحة كانت النتائج مثالية، فالتدريب على معلومات خاطئة من البداية يؤدي بنا إلى نتائج غير صحيحة وغير منظمة تؤثر سلبًا على الجميع.

مخاطر الذكاء الاصطناعي غير المنظم
مخاطر الذكاء الاصطناعي غير المنظم

هل الذكاء الاصطناعي يساعد في انتشار المعلومات المضللة؟

يقول “ممدوح”: بالطبع يساعد الذكاء الاصطناعي في انتشار المعلومات المضللة، إذ تعد الشركات المالكة لأي أنظمة ذكاء اصطناعي هي المتحكمة في مجموعة المعلومات التي تتدرب عليها أدوات الذكاء الاصطناعي التي تحدثنا عنها بالأعلى.

وواصل: الشركات يمكنها الحذف أو الإضافة إليها يوميًا كيفما تشاء بوضع أي معلومات، بغض النظر إن كانت صحيحة أم خاطئة؛ حيث يكون فقط بحسب إرادة الشركة المدربة وليس الصواب أو الخطأ.

وأضاف خبير الذكاء الاصطناعي: على سبيل المثال إذا أنشأت مجموعة بيانات فيها معلومة بأن “القمر كوكب قريب من الأرض” ووضعتها بداخل مجموعة بيانات، ودربت الذكاء الاصطناعي عليها، بعد ذلك إذا سألت الذكاء الاصطناعي عن القمر سيقول لي القمر كوكب قريب من الأرض؛ لأن هذا ما تدرب عليه بغض النظر عن صحة المعلومة من عدمها.

الذكاء الاصطناعي
الذكاء الاصطناعي يزداد غموضا..ما هو المستقبل؟

مخاطر الذكاء الاصطناعي غير المنظم

يُعد الذكاء الاصطناعي أداة قوية ذات إمكانيات هائلة لتحسين حياتنا في مجالات متعددة، بدءًا من الرعاية الصحية والتعليم وصولاً إلى النقل والتصنيع.

ومع ذلك، فإن غياب التنظيم يُمكن أن يُشكل مخاطر كبيرة على الأفراد والمجتمعات، ويُعد أهمها:

  1. التحيز والتمييز

 فقد تُعزز أنظمة الذكاء الاصطناعي التحيزات الموجودة مسبقًا في البيانات التي يتدرب عليها، ما قد يؤدي إلى التمييز ضد مجموعات معينة من الناس.

 على سبيل المثال، قد تُؤدي خوارزميات التوظيف التي تعتمد على الذكاء الاصطناعي إلى تهميش المرشحين من ذوي المؤهلات العالية بسبب عرقهم أو جنسهم أو خلفيتهم.

  1. فقدان الخصوصية

يمكن لجمع البيانات وتحليلها من قبل أنظمة الذكاء الاصطناعي أن يُشكل تهديدًا كبيرًا للخصوصية. وقد تُستخدم هذه البيانات لإنشاء ملفات تعريفية مفصلة للأفراد، ما قد يُستخدم لأغراض تجارية أو حتى لمراقبة سلوكهم.

  1. مخاطر السلامة

قد تُشكل أنظمة الذكاء الاصطناعي ذاتية التشغيل، مثل السيارات ذاتية القيادة، مخاطر على السلامة العامة إذا لم يتم تصميمها واختبارها على نحو صحيح.

الذكاء الاصطناعي AI
الذكاء الاصطناعي.. صديق مجنون ومخمور لكنه مفيد

خطوات للتخفيف من مخاطر الذكاء الاصطناعي غير المنظم

  • وضع معايير أخلاقية لتنمية واستخدام الذكاء الاصطناعي.
  • تنظيم جمع البيانات واستخدامها من قبل أنظمة الذكاء الاصطناعي.
  • ضمان شفافية خوارزميات الذكاء الاصطناعي وخضوعها للمساءلة.
  • استثمار البحث والتطوير في مجال ضمان سلامة وأمن أنظمة الذكاء الاصطناعي.
  • تثقيف الجمهور حول مخاطر وفوائد الذكاء الاصطناعي.

 

الرابط المختصر :