هل لديك صديق يتحدث بكل غطرسة وكأنه يملك الحق دائمًا. ثم يكتشف لاحقًا أنه كان مخطئًا تمامًا؟. إنه مثل الذكاء الاصطناعي الذي يقدم أحيانًا هراء تمت صياغته بكل منظم. بما يعرف بكذب الذكاء الاصطناعي.
ما كذب الذكاء الاصطناعي؟
طور فريق باحثي معهد ماساتشوستس للتكنولوجيا، منصة للكشف عن كذب الذكاء الاصطناعي، وتستخدم منصة Capsa الذي ابتكرتها شركة Themis AI ” لقياس عدم اليقين في نماذج الذكاء الاصطناعي ومعالجة هلوساته.
معظم أنظمة الذكاء الاصطناعي، بما في ذلك أنظمة مثل Grok من X أو ChatGPT من OpenAI، لا ترتكب أخطاء فحسب؛ بل ترتكب هذه الأخطاء بكل ثقة. إنها مشكلة معروفة في التعلم الآلي بـ “الهلوسة”.
وهي أن يقدم نموذج الذكاء الاصطناعي بيانات خاطئة أو مختلقة ويُقدمها كما لو كانت الحقيقة الوحيدة. قد تكون النتائج خطيرة. قد تبدأ بتصديق ما هو غير صحيح.
فعلى سيبل المثال قد يقدم الـ AI معلومات في الطب قد يكون لذلك عواقب وخيمة إذا كانت خاطئة. فما هو حل في كذب الذكاء الاصطناعي؟
تأتي منصة Capsa لتعمل كأداة فحص داخلية. بدلاً من ترك النموذج يُواصل تخميناته المُتذبذبة، تتدخل Capsa وتقول: “انتظر. يبدو هذا مُريبًا”.
ووفق تقرير Naukatv.ru، الذي اطلعت عليها عالم التكنولوجيا، تأسست الشركة الناشئة عام ٢٠٢١، وهي تتعلم الذكاء الاصطناعي، وهي مهارة يجدها معظم البشر صعبة، معترفين بجهلهم بها.
علاوة على أنها مصممة للتكامل مع معظم أنظمة الذكاء الاصطناعي. لا تتطلب تعديل تصميم نظام الذكاء الاصطناعي، فهي ببساطة تتصل وتراقب.
والأفضل من ذلك كله أنها متوافقة مع أي نموذج تعلم آلي وفي أي مرحلة من مراحل التطوير. إذا رصدت مؤشرات على أن النموذج غير متأكد أو أنه يعمل ببيانات مشكوك فيها، فإنها تقوم بالبتليغ عن ذلك. ساعدت المنصة بالفعل:
- شركات الاتصالات على تجنب أخطاء التخطيط المكلفة.
- ساعدت شركات النفط والغاز على تحليل البيانات الزلزالية دون تفسيرها بشكل خاطئ.
- كما تعاونت مع تطوير روبوتات دردشة تفهم متى تصمت بدلًا من التلفظ بكلمات غير مفهومة.
في حين أنه تم تصميم Capsa، وهي تقنيتنا الخاصة، لتكون متوافقة مع أي نموذج ML، وتعمل بسلاسة في غضون ثوانٍ في أي مرحلة من مراحل التطوير. هذا ما جاء في وصف التقنية على موقع Themis الإلكتروني.
الأجهزة الطرفية
وبالفعل ثم استخدم هذه التقنية بالفعل في اكتشاف الأدوية، بشكل ساعد الذكاء الاصطناعي على تحديد ما إذا كانت تنبؤاته مبنية على أدلة فعلية أم مجرد فرضيات؟
كما ركزوا على الأجهزة الطرفية وهي أجهزة كمبيوتر صغيرة منخفضة الطاقة تُستخدم في كل شيء، من الأجهزة الطبية القابلة للارتداء إلى الطائرات بدون طيار. حتى هذه الذكاءات الاصطناعية خفيفة الوزن للغاية، يمكنها تحديد ما إذا كانت في وضعٍ حرج، وذلك بفضل تقنية ثيميس المدمجة.
وتأتي أهمية هذه المنصة لأن الذكاء الاصطناعي أصبح يضطلع بمهام متزايدة الخطورة والضخامة كل عام، من تشخيص الأمراض إلى إدارة البنية التحتية.
ولكن على الرغم من كل قدراته، ينقصه شيء ما الوعي بحدوده. هذا ما تقدمه منصة Themis للذكاء الاصطناعي. ليس مزيدًا من الذكاء، بل حكمة أفضل. ولعل القليل من التواضع، كما يبدو، هو ما يحتاجه الذكاء الاصطناعي لكسب المزيد من ثقة البشر.