في خطوة استراتيجية لتحسين البنية التحتية للسلامة على الإنترنت، كشفت شركة OpenAI عن نموذجي استدلال (Reasoning Models) جديدين مصممين خصيصًا لتمكين المنصات من التصنيف الآلي للمحتوى الضار. تأتي هذه الخطوة لتضع OpenAI في موقع المزوّد الرئيسي لأدوات الإشراف على المحتوى المدعومة بالذكاء الاصطناعي عبر الإنترنت.
نماذج تظهر طريقة عملها
كما أعلنت OpenAI عن نموذجي “gpt-oss-safeguard-120b” و “gpt-oss-safeguard-20b”. وهما إصدارات محسنة من نموذج أُطلق في أغسطس.
بينما الميزة الأبرز لهذه النماذج هي قدرتها على الاستدلال (Reasoning) وإظهار طريقة عملها. مما يمنح المطورين شفافية مباشرة حول كيفية وصول النموذج إلى قرار تصنيف محتوى معين على أنه ضار.
في حين يوفر هذا ميزة بالغة الأهمية أشبه بـ “سجل تدقيق شفاف” لعمليات الإشراف. ما تفتقر إليه العديد من أنظمة الذكاء الاصطناعي الحالية. وذلك وفقًا لـ”techbuzz”.
وقد تم تطوير هذه الأدوات بالتعاون مع منصة ديسكورد (Discord)، التي تعالج مليارات الرسائل يوميًا. ومنظمات سلامة متخصصة مثل SafetyKit و ROOST (Robust Open Online Safety Tools). ما يضمن أن النماذج مصممة لمواجهة تحديات السلامة على نطاق واسع.
تطبيقات فورية وفرصة لرد الاعتبار
كما تأتي هذه النماذج في وقت حرج، حيث واجهت OpenAI انتقادات متزايدة. حول إعطاء الأولوية للنمو على حساب السلامة في ظل توسعها السريع، ووصول مستخدمي ChatGPT إلى 800 مليون مستخدم أسبوعيًا، والقيمة السوقية التي تجاوزت 500 مليار دولار.
كما تزامنت هذه الخطوة مع استكمال الشركة لعملية إعادة الهيكلة المثيرة للجدل. وتحولها من منظمة غير ربحية إلى هيكل هجين.
كما توفر نماذج السلامة هذه رواية مختلفة. وفي هذا الصدد، قالت كاميل فرانسوا، رئيسة ROOST: “مع تزايد قوة الذكاء الاصطناعي، يجب أن تتطور أدوات السلامة والأبحاث الأساسية بالسرعة نفسها، ويجب أن تكون متاحة للجميع.” ما يرسخ فكرة أن OpenAI لا تكتفي ببناء الذكاء الاصطناعي القوي، بل تبني البنية التحتية اللازمة للحفاظ على سلامته.
تطبيقات النماذج عملية ومباشرة:
- مواقع تقييم المنتجات يمكنها اكتشاف التقييمات المزيفة آليًا.
- منتديات الألعاب تستطيع رصد المناقشات حول الغش.
- تطبيقات المواعدة يمكنها تحديد التحرش وسوء السلوك.
نموذج عمل جديد
بينما ما يميز استراتيجية OpenAI هو اعتمادها على نهج “الوزن المفتوح” (Open-Weight). على عكس النماذج مفتوحة المصدر بالكامل. يوفر هذا النهج شفافية في بعض معاملات النموذج (Parameters) مع الاحتفاظ بعناصر الملكية الفكرية الأخرى. وهو توازن ذكي بين الانفتاح والاستدامة التجارية.