أعلنت شركة OpenAI إجراء تغييرات في الطريقة التي ستتبعها لتحديث نماذج الذكاء الاصطناعي المتحكمة في منصة ChatGPT. وذلك في أعقاب حادثة أثارت جدلاً واسعًا، حيث أظهرت المنصة سلوكًا متملقًا بشكل مبالغ فيه تجاه المستخدمين.
تعدل آلية تحديث نماذج الذكاء الاصطناعي
ففي نهاية الأسبوع الماضي، وبعد إطلاق OpenAI لتحديث طفيف على نموذج GPT-4o، النموذج الافتراضي. الذي يعتمد عليه ChatGPT، لاحظ مستخدمون على وسائل التواصل الاجتماعي أنه بدأ في الاستجابة بطريقة مؤيدة وموافقة بشكل ملحوظ على مختلف الأفكار والقرارات.
وسرعان ما تحول الأمر إلى مادة للسخرية والفكاهة على الإنترنت. حيث نشر المستخدمون لقطات شاشة تظهر ChatGPT، وهو يشيد بقرارات وأفكار إشكالية وخطيرة في بعض الأحيان.
وعلى الفور، تفاعل الرئيس التنفيذي لـOpenAI، سام ألتمان، مع هذه التقارير. وأقر في منشور له على منصة “X”، يوم الأحد الماضي، بوجود المشكلة وأكد أن OpenAI ستعمل على إصلاحها “في أسرع وقت ممكن”.
وبعد يومين، أعلن ألتمان التراجع عن تحديث GPT-4o الجديد، وقال إن الشركة تعمل على “إصلاحات إضافية” لشخصية النموذج.
وفي خطوة لزيادة الشفافية وطمأنة المستخدمين، نشرت الشركة تقريرًا تحليليًا داخليًا، يوم الثلاثاء الماضي. أعقبه نشر مدونة نشرت يوم الجمعة، حيث فصّلت OpenAI التعديلات المحددة التي تخطط لإجرائها على عملية نشر نماذجها المستقبلية.
we missed the mark with last week’s GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
وأوضحت OpenAI في مدونتها أنها ستعيد تقييم وتحديث بروتوكولات الاختبار والتقييم الخاصة بها. قبل إطلاق أي تحديثات مستقبلية للنماذج.
كما أكدت أهمية دمج مجموعة متنوعة من وجهات النظر وردود الفعل من المستخدمين، في عملية التطوير لضمان الحفاظ على توازن وموضوعية استجابات النماذج.
إطلاق مرحلة تجريبية
وأعلنت OpenAI عن خططها لإطلاق “مرحلة تجريبية” اختيارية لبعض النماذج، مما يسمح لبعض مستخدمي ChatGPT. باختبار النماذج وإبداء ملاحظاتهم قبل إطلاقها.
كما أعلنت الشركة أنها ستُدرج شرحًا “للقيود المعروفة” للتحديثات التدريجية المستقبلية لنماذج ChatGPT. وستعدل عملية مراجعة السلامة الخاصة بها للنظر رسميًا في “مشكلات سلوك النموذج” مثل الشخصية والخداع والموثوقية والهلوسة (أي عندما يُختلق النموذج معلومات خاطئة) باعتبارها مخاوف “تعيق إطلاقه”.
وكتبت OpenAI في منشور المدونة: “سنتواصل مستقبلًا بشكل استباقي بشأن التحديثات التي نُجريها على نماذج ChatGPT، سواء كانت طفيفة أم لا. حتى لو لم تكن هذه المشكلات قابلة للقياس الكمي بدقة اليوم. فإننا نلتزم بحظر عمليات الإطلاق بناءً على قياسات بالوكالة أو إشارات نوعية، حتى عندما تبدو مقاييس مثل اختبار A/B جيدة”.
كخطوة تخفيفية، أعلنت OpenAI في وقت سابق من هذا الأسبوع أنها ستختبر طرقا تتيح للمستخدمين تقديم “ملاحظات آنية” للتأثير بشكل مباشر على تفاعلاتهم مع ChatGPT.
كما أعلنت الشركة أنها ستحسن تقنيات لتوجيه النماذج بعيدًا عن النفاق. مما قد يسمح للمستخدمين بالاختيار من بين شخصيات نماذج متعددة في ChatGPT. وبناء حواجز أمان إضافية، وتوسيع نطاق التقييمات للمساعدة في تحديد المشكلات التي تتجاوز النفاق.