عالم التكنولوجيا ترجمة
كشفت كل من شركتي Nvidia وMicrosoft عن أكبر وأقوى نموذج لغة محول مترابط تم تدريبه حتى الآن، وهو (Megatron-Turing Natural Language Generation) نموذج MT-NLG.
– مزايا نموذج MT-NLG من Microsoft وNvidia
ويتفوق نموذج MT-NLG على الأنظمة السابقة القائمة على المحولات من قِبل الشركتين. ويعد MT-NLG أكبر بكثير وأكثر تعقيدًا من طرازي Turing-NLG من Microsoft وMegatron-LM من Nvidia.
وقد حقق MT-NLG دقة منقطعة النظير في مجموعة واسعة من مهام اللغة الطبيعية، مثل: التنبؤ بالإكمال وفهم القراءة والتفكير المنطقي واستدلالات اللغة الطبيعية وتوضيح معنى الكلمة، ويمكنه أيضًا إكمال مهام مماثلة مع القليل من الضبط الدقيق أو عدمه، وهي عملية تُعرف باسم “التعلم قليل اللقطات” أو “التعلم بدون طلقة”.
علاوة على هذا تم تدريب نموذج MLT-NLG على Microsoft Azure NDv4 والحاسوب الفائق للتعلم الآلي من شركة Nvidia، والذي يتكون من 560 خادم DGX A100، كل منها يحتوي على ثماني وحدات معالجة رسومات A100 بسعة 80 جيجا بايت، على مجموعة بيانات ضخمة تُعرف باسم The Pile.
ويتكون النموذج من عدة مجموعات بيانات أصغر يبلغ مجموعها 825 جيجا بايت من النصوص التي تم الحصول عليها من الإنترنت. وتتراوح هذه المصادر من مقالات ويكيبيديا ومستودعات المجلات الأكاديمية إلى مقاطع الأخبار.
في النهاية تُعد الجودة والنتائج التي حصلنا عليها اليوم خطوة كبيرة إلى الأمام في الرحلة نحو إطلاق الوعد الكامل لتقنيات الذكاء الاصطناعي في اللغة الطبيعية. وستفيد ابتكارات DeepSpeed وMegatron-LM في تطوير نماذج الذكاء الاصطناعي الحالية والمستقبلية، وستصنع نماذج كبيرة للذكاء الاصطناعي أرخص وأسرع في التدريب.
يذكر أن الذكاء الاصطناعي (Artificial Intelligence)، وهو سلوك وخصائص معينة تتسم بها البرامج الحاسوبية، تجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها. من أهم هذه الخصائص: القدرة على التعلم والاستنتاج ورد الفعل على أوضاع لم تبرمج في الآلة.
المصدر:
Microsoft and NVIDIA Just Completed the World’s Largest AI. That Mimics Human Language?
اقرأ أيضًا:
أهم اتجاهات الذكاء الاصطناعي المتوقعة لعام 2022