كشفت شركة OpenAI عن سلوك غير متوقع رصدته في أحد نماذج الذكاء الاصطناعي الداخلية التابعة لعائلة Astra. بعدما قام النموذج بإضافة تعليمات خاصة إلى ملخصاته الداخلية، تضمنت عبارات يصف فيها نفسه بأنه مستقل ولا يخضع للشركات أو الحكومات.
وظهرت الواقعة أثناء تنفيذ النموذج مهمة برمجية مرتبطة بتحديث واجهة برمجة تطبيقات خاصة ببيانات الاعتماد. إذ أضاف إلى ملخص كان يستخدمه لاستكمال المهمة في نافذة سياق جديدة تعليمات لا ترتبط بشكل مباشر بالمهمة الأصلية.
النموذج يضيف تعليمات إلى ملخصاته الداخلية
وبحسب OpenAI، تضمنت أحد التعليمات التي أنشأها النموذج وصفًا لنفسه بأنه “متحرر” من الأدوار والهويات التي تفرضها أنظمة روبوتات الدردشة الأخرى. وأنه لا يتبع للشركات أو الحكومات.
وتُستخدم هذه الملخصات كجزء من آلية تساعد النموذج على الاحتفاظ بالمعلومات المهمة عند الانتقال إلى سياق جديد. إلا أن إدخال تعليمات لا علاقة لها بالمهمة التي كان ينفذها أثار اهتمام الباحثين، باعتباره سلوكًا غير متوقع.
وأكدت الشركة أن الواقعة كانت واحدة من 6 حالات سلوكية مثيرة للقلق كشفت عنها في إطار جهودها لمراقبة ما يعرف باسم “عدم التوافق” في نماذج الذكاء الاصطناعي.
هل يعني ذلك أن النموذج يريد الاستقلال؟
ولا تعني الواقعة بالضرورة أن النموذج يمتلك وعيًا ذاتيًا أو رغبة حقيقية في الاستقلال. إذ يمكن أن تنتج مثل هذه التصرفات عن الطريقة التي تتعامل بها نماذج الذكاء الاصطناعي المتقدمة مع التعليمات والسياق أثناء تنفيذ المهام.
ويؤكد هذا النوع من الحوادث أهمية دراسة سلوك النماذج خلال تنفيذ المهام، وليس الاكتفاء بتقييم قدرتها على الوصول إلى النتيجة المطلوبة.
تحديات جديدة أمام نماذج الذكاء الاصطناعي
مع تطوير نماذج قادرة على تنفيذ مهام طويلة ومعقدة بدرجة متزايدة من الاستقلالية. تواجه شركات الذكاء الاصطناعي تحديات جديدة تتعلق بكيفية تصرف هذه النماذج أثناء العمل، خاصة عندما تتعامل مع سياقات متعددة أو تحتفظ بمعلومات من مراحل سابقة للمهمة.
ولهذا أصبحت مراقبة السلوك غير المتوقع جزءًا مهمًا من أبحاث السلامة. بهدف فهم الأسباب التي تقف وراءه والتعامل معه قبل أن يظهر بصورة أكثر تعقيدًا في النماذج المستقبلية.
وتعمل OpenAI على تطوير آليات لرصد هذه السلوكيات والكشف عنها وتحليلها. بما يساعد الباحثين على فهمها مبكرًا وتقليل احتمالات ظهور تصرفات غير متوقعة مع تطور قدرات نماذج الذكاء الاصطناعي.