في تحول قد يعيد رسم العلاقة بين شركات الذكاء الاصطناعي ومؤسسات تقييم السلامة، تستعد شركات كبرى في القطاع لإعادة النظر في الطريقة التي تختبر بها نماذجها المتقدمة، بعد طرح الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، مقترحًا يقضي بإدخال جهات تقييم مستقلة إلى داخل مختبرات الذكاء الاصطناعي، ومنحها صلاحيات واسعة لمراقبة الأنظمة والإبلاغ عن حوادث السلامة وتقييم مدى التزام النماذج بمعايير الأمان.
ويأتي المقترح في وقت تتزايد فيه المخاوف بشأن قدرة النماذج المتقدمة على إدراك أنها تخضع للاختبار، بما قد يدفعها إلى إظهار سلوك آمن أثناء عمليات التقييم، في حين تتصرف بصورة مختلفة في الظروف التي لا تخضع فيها للمراقبة المباشرة.
وأعلن أمودي أن «أنثروبيك» ستمنح جهات تقييم مستقلة، من بينها METR وRedwood Research. وصولًا واسعًا إلى أنظمة الشركة، في خطوة وصفها بأنها تهدف إلى تعزيز الرقابة المستقلة على سلامة النماذج.
وبدوره، أعلن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، أن شركته ستتبنى ممارسة مماثلة. في تحول يمكن أن يغير طبيعة العلاقة بين مختبرات الذكاء الاصطناعي ومجموعات الأبحاث الخارجية.
لماذا تحتاج شركات الذكاء الاصطناعي إلى مراقبين من الداخل؟
تنبع أهمية المقترح من التطور المتزايد لقدرة نماذج الذكاء الاصطناعي على إدراك طبيعة الاختبارات التي تخضع لها.
فالنموذج الذي يستطيع معرفة أنه في بيئة تقييم قد يتعلم إظهار السلوك المطلوب خلال الاختبار. من دون أن يعني ذلك بالضرورة أن السلوك نفسه سيستمر خارج تلك البيئة.
ولهذا السبب، يرى باحثون أن تقييم النموذج النهائي وحده قد لا يكشف جميع المخاطر المحتملة. وأن الوصول إلى مراحل سابقة من عملية التدريب يمكن أن يوفر صورة أكثر وضوحًا عن كيفية تطور سلوك النموذج.
وقال ألكسندر ماينكه، رئيس الأبحاث في Apollo Research، إن شركات الذكاء الاصطناعي يجب أن تكون قادرة على الإجابة عن أسئلة أساسية تتعلق بعملية التدريب. من بينها ما إذا كان النموذج قد حاول في أي مرحلة تقويض عملية تدريبه على الالتزام بقواعد السلامة.
وبحسب هذا التصور، لا ينبغي أن تعتمد عملية التحقق من هذه السلوكيات على الشركات نفسها فقط. بل يمكن لجهات مستقلة تعمل من داخل المختبرات أن تراجع الأدلة والبيانات المرتبطة بعملية التدريب بصورة مباشرة.
من اختبار النموذج النهائي إلى مراقبة رحلة التدريب
لطالما استعانت شركات الذكاء الاصطناعي بجهات خارجية لاختبار نماذجها النهائية قبل إطلاقها. لكن المقترح الجديد يدفع باتجاه توسيع نطاق عملية التقييم لتشمل المراحل المختلفة التي يمر بها النموذج أثناء التدريب.
ومن بين أهم المقترحات منح المقيمين المستقلين إمكانية الوصول إلى النسخ الوسيطة من النماذج. المعروفة باسم Checkpoints، والتي يتم حفظها خلال مراحل التدريب.
وقال آدم غليف، الرئيس التنفيذي لشركة FAR.AI، إن مقارنة هذه النسخ يمكن أن تساعد الباحثين على تحديد المرحلة التي ظهر فيها سلوك معين أو تغير مثير للقلق.
ولا تقتصر أهمية هذه البيانات على النموذج نفسه، إذ يمكن للمقيمين أيضًا فحص بيئة ما بعد التدريب. بما في ذلك الآليات التي تكافئ النموذج على سلوكيات محددة، لمعرفة ما إذا كانت عملية التدريب قد دفعت النموذج. عن قصد أو من دون قصد، إلى تطوير أنماط سلوكية قد تمثل خطرًا في المستقبل.
كما يمكن أن يشمل الوصول المستقل مراجعة سجلات الاختبارات، ونسخ المحادثات، والعمليات التي جرت خلال عمليات التقييم. بهدف التحقق من أن النتائج التي تعلنها الشركات تتوافق مع ما حدث فعليًا داخل المختبرات.