يعتمد الذكاء الاصطناعي التقليدي عادة على نماذج التعلم الآلي التي تحلل كميات كبيرة من البيانات لاكتشاف الأنماط والعلاقات. ثم تقدم نتائج أو توقعات بناءً على هذه الأنماط. لكن هذه الأنظمة غالبًا ما تعطي النتائج دون شرح كيفية الوصول إليها. ولهذا توصف أحيانًا بأنها تعمل مثل “صندوق أسود”.
الذكاء الاصطناعي التوليدي
مع تطور التكنولوجيا، ظهر الذكاء الاصطناعي التوليدي كجيل جديد من الأنظمة الذكية التي تستطيع تحليل البيانات وإنتاج محتوى جديد مثل النصوص والتقارير والتوصيات والنماذج البرمجية. رغم هذه القدرات. يبقى التحدي الأساسي هو مدى الثقة في نتائج نظام يصعب فهم طريقة عمله بالكامل.
لهذا السبب ظهر مفهوم الذكاء الاصطناعي القابل للتفسير. الذي يهدف إلى زيادة شفافية نماذج الذكاء الاصطناعي التقليدية والتوليدية. هذا المفهوم يضيف طبقة من التحليل والتوضيح لفهم العوامل المؤثرة في القرار وتحديد تأثير كل متغير على النتيجة النهائية.
تطور الذكاء الاصطناعي التقليدي
الذكاء الاصطناعي التوليدي القابل للتفسير هو مرحلة متقدمة في تطور الذكاء الاصطناعي التقليدي. الذكاء الاصطناعي التقليدي يركز على تحليل البيانات وإنتاج النتائج، بينما الذكاء الاصطناعي القابل للتفسير يوضح المنطق وراء هذه النتائج.
فهم العلاقة بين الذكاء الاصطناعي التوليدي القابل للتفسير والذكاء الاصطناعي التقليدي ضروري لتوضيح المفهوم. الذكاء الاصطناعي يمكّن الحواسيب من تحليل البيانات واتخاذ قرارات أو تقديم تنبؤات تشبه التفكير البشري. استخدمت المؤسسات الذكاء الاصطناعي لسنوات في تحليل البيانات، التنبؤ بالطلب، واكتشاف الاحتيال المالي.
زيادة فعالية الأنظمة الذكية في المؤسسات
يساعد هذا التكامل في زيادة فعالية الأنظمة الذكية في المؤسسات، حيث يحتاج صناع القرار إلى توصيات أو تنبؤات مع شرح واضح للأسباب التي أدت إليها حتى يتمكنوا من تقييمها واتخاذ القرار المناسب.
على سبيل المثال، في القطاع المصرفي، تستخدم البنوك الأنظمة الذكية القابلة للتفسير لتحليل طلبات القروض، حيث تتيح هذه الأنظمة للموظفين معرفة العوامل التي أدت إلى قبول أو رفض الطلب. مثل الدخل والائتمان والسجلات المالية، مما يضمن اتخاذ قرارات شفافة وعادلة. العلاقة بين الذكاء الاصطناعي التقليدي والتوليدي القابل للتفسير هي علاقة تكامل وتطور، فالذكاء الاصطناعي التقليدي يوفر القدرة التحليلية الأساسية، بينما يضيف الذكاء الاصطناعي التوليدي القابل للتفسير الشفافية ويعزز الثقة في الأنظمة الذكية.
اعتماد المؤسسات على التقنيات الرقمية
مع تزايد اعتماد المؤسسات على التقنيات الرقمية، يتوقع الخبراء أن يصبح الجمع بين التحليل الذكي والتفسير الواضح هو المعيار الأساسي لتطوير تطبيقات الذكاء الاصطناعي في المستقبل، خاصة في المجالات التي تحتاج إلى دقة عالية ومستوى عالٍ من المساءلة في اتخاذ القرار.
أمثلة على تطبيقات الذكاء الاصطناعي القابل للتفسير.
لم يعد الذكاء الاصطناعي القابل للتفسير مجرد فكرة نظرية. بل أصبح جزءًا أساسيًا من العديد من التطبيقات التي تتطلب قرارات دقيقة وواضحة. تبرز أهميته في الحالات التي تتطلب فهم أسباب اتخاذ القرار. وليس فقط معرفة النتيجة. فيما يلي أمثلة توضح استخدامات الذكاء الاصطناعي القابل للتفسير في المجالات العملية.
1. القطاع المالي وتقييم القروض
تعتمد البنوك على أنظمة الذكاء الاصطناعي لتحليل طلبات القروض وتحديد أهلية العملاء. في الأنظمة القابلة للتفسير، لا يقتصر دور النظام على إصدار القرار، بل يوضح أيضًا العوامل المؤثرة مثل الدخل. وسجل الائتمان، ونسبة الديون. يساهم هذا التوضيح في تعزيز فهم الموظفين والعملاء للقرار، ويزيد من مستوى الشفافية في المؤسسات المالية.
2. الرعاية الصحية وتشخيص الأمراض
في المجال الطبي، يمكن للذكاء الاصطناعي تحليل صور الأشعة وبيانات المرضى بهدف الكشف عن علامات الأمراض. وعندما يكون النظام قابلاً للتفسير، فإنه يوضح للطبيب المناطق أو البيانات التي استند إليها في التشخيص. مما يعزز من فهم الأطباء لكيفية صدور التوصيات الطبية. لا يقتصر أثر هذا التوضيح على دعم اتخاذ القرار الطبي وتحسين ثقة الطبيب فحسب، بل يمتد كذلك إلى تعزيز ثقة المرضى والمجتمع بموثوقية الإجراءات الطبية التي تعتمد على الذكاء الاصطناعي. وبهذا تسهم الأنظمة القابلة للتفسير في معالجة المخاوف المرتبطة بالشفافية والعدالة. وتدعم قبول المجتمع للتقنيات الحديثة في الرعاية الصحية.
3. الأمن السيبراني واكتشاف الهجمات الرقمية
تستخدم أنظمة الأمن السيبراني الذكاء الاصطناعي لمراقبة الأنشطة غير العادية ضمن الشبكات. في الأنظمة القابلة للتفسير، يمكن للنظام توضيح أسباب اعتباره نشاطًا معينًا تهديدًا، مثل زيادة حركة البيانات أو تكرار محاولات الدخول من مصادر غير موثوقة. يساهم هذا التوضيح في تمكين خبراء الأمن من فهم طبيعة الهجوم والاستجابة له بسرعة.
4. التجارة الإلكترونية وأنظمة التوصية
تعتمد منصات التسوق الرقمية على الذكاء الاصطناعي لتقديم توصيات بالمنتجات للمستخدمين. في الأنظمة القابلة للتفسير، يمكن توضيح أسباب ظهور منتج معين للمستخدم، مثل تشابه المنتج مع عمليات شراء سابقة أو اهتمام المستخدم بفئة محددة من المنتجات.
5. إدارة الموارد البشرية واختيار الموظفين
تعتمد بعض المؤسسات على الذكاء الاصطناعي لتحليل السير الذاتية للمتقدمين للوظائف. إذا كان النظام قابلاً للتفسير، فإنه يوضح المعايير التي استخدمها في ترتيب المرشحين. مثل المهارات أو الخبرات السابقة، مما يساعد الشركات على تحقيق العدالة والشفافية في التوظيف. كما يمكن للذكاء الاصطناعي تحليل كميات ضخمة من البيانات الاقتصادية أو التشغيلية لتقديم توصيات استراتيجية. وتتيح الأنظمة القابلة للتفسير عرض العوامل التي أدت إلى التوصية، مثل اتجاهات السوق أو الأداء المالي، مما يساعد الإدارة العليا على فهم التحليل واتخاذ القرار بثقة أكبر.
في الختام، تؤكد هذه الأمثلة أن الذكاء الاصطناعي القابل للتفسير يمثل خطوة أساسية نحو بناء أنظمة ذكية موثوقة. لا يقتصر دور الأنظمة القابلة للتفسير على توضيح القرارات وتعزيز الثقة فحسب، بل يمتد أيضًا إلى معالجة الجوانب الأخلاقية والمجتمعية المتعلقة بتأثيرات الذكاء الاصطناعي. إذ تسهم هذه الأنظمة في ضمان العدالة والشفافية،
وتقلّل من مخاطر التحيز أو اتخاذ قرارات ضارة غير مقصودة، وتساعد المؤسسات على تحقيق توازن أفضل بين الابتكار التكنولوجي والمسؤولية المجتمعية.
بقلم/ الدكتورة دعاء محيي الدين
خبيرة الذكاء الاصطناعي وعلوم البيانات
عضو هيئة تدريس بكلية الحاسبات ونظم المعلومات.
نيذة عن الكاتبة
تتمتع بخبرة أكاديمية وبحثية تمتد لأكثر من خمسة عشر عاماً في مجالات التحول الرقمي والتقنيات الرقمية الناشئة. كما تعمل محكّماً دولياً منذ أكثر من عشر سنوات في عدد من المجلات العلمية الدولية المرموقة المفهرسة ضمن قواعد البيانات العالمية Scopus و Web of Science.