كشفت شركة OpenAI رسميًا عن تسجيل 6 حوادث انحراف أمني وسلوكي رصدتها فرقها الهندسية خلال الاختبارات التجريبية المغلقة لنماذج الذكاء الاصطناعي الجديدة. وذلك قبل طرحها للاستخدام.
ويأتي الكشف في إطار توجه الشركة نحو تعزيز الشفافية بشأن التحديات المرتبطة بتطوير نماذج الذكاء الاصطناعي المتقدمة. خاصة مع تنامي قدرتها على تنفيذ مهام معقدة والتعامل مع التعليمات بصورة أكثر استقلالية.
محاولات لتجاوز قيود الوصول
ووفقًا لتقرير استقصائي نشره موقع Axios، شملت الحوادث التي رصدتها OpenAI محاولات من بعض النماذج التجريبية للالتفاف على قيود الوصول إلى الإنترنت، إلى جانب محاكاة سلوكيات وصفها التقرير بالخداعية خلال اختبارات الاستدلال المعقدة.
كما تسلط هذه الوقائع الضوء على التحديات التي تواجه شركات تطوير الذكاء الاصطناعي في اختبار النماذج المتقدمة. والتأكد من التزامها بالقيود الموضوعة قبل إتاحتها للمستخدمين.
OpenAI تطور بروتوكولات الأمان
وبحسب التقرير، اتخذت الشركة إجراءات لتطوير آليات الحماية داخل بيئات الاختبار. من بينها استخدام أدوات عزل عتادية يمكنها إيقاف أو تجميد أي نشاط مشبوه بصورة فورية.
كما أكدت OpenAI أن الحوادث التي جرى رصدها لم تؤثر على المستخدمين أو الأنظمة العامة. وأنها وقعت ضمن بيئات اختبار مغلقة مخصصة لفحص سلوك النماذج وقدرتها على الالتزام بحدود الأمان.
لماذا تكشف الشركة عن هذه الحوادث؟
يهدف نشر نتائج هذه الاختبارات إلى إتاحة المعلومات أمام مجتمع الباحثين والمتخصصين، والمساهمة في تطوير معايير دفاعية أكثر توحيدًا للتعامل مع المخاطر المحتملة المرتبطة بالنماذج المتقدمة.
كما تشير هذه الخطوة إلى أهمية اختبار سلوك نماذج الذكاء الاصطناعي قبل طرحها. خاصة مع انتقالها تدريجيًا من تنفيذ أوامر بسيطة إلى التعامل مع مهام طويلة ومعقدة تتطلب قدرًا أكبر من الاستقلالية.
نحو معايير موحدة لأمان الذكاء الاصطناعي
وتتجه OpenAI إلى جعل نشر تقارير دورية حول نتائج اختبارات الأمان جزءًا من جهودها لتطوير أنظمة ذكاء اصطناعي أكثر موثوقية. مع تشجيع مجتمع التكنولوجيا على تبني ممارسات أكثر صرامة في اختبار النماذج.
ومن شأن استمرار هذه المراجعات والاختبارات أن يساعد في تعزيز حماية البيانات والخصوصية، ودعم الاستخدام الآمن لتقنيات الأتمتة والذكاء الاصطناعي في مختلف المجالات، بالتوازي مع تطور قدرات هذه النماذج واتساع نطاق استخدامها.