كشفت شركة OpenAI، المطورة للروبوت الشهير ChatGPT، عن بيانات مفصلة تسلط الضوء على الأعداد الكبيرة من مستخدميها الذين يتحدثون إلى الروبوت عن معاناتهم من قضايا الصحة العقلية.
وتأتي هذه الخطوة في إطار إعلان أوسع عن جهود الشركة المكثفة لتحسين استجابة نماذجها لهذه الحالات الحساسة.
تشير التقديرات الصادمة للشركة إلى أن 0.15% من المستخدمين النشطين أسبوعيًا في ChatGPT يجرون “محادثات تتضمن مؤشرات صريحة لتخطيط أو نية انتحارية محتملة”. وفقًا لـ”تك كرانش”.
بالنظر إلى أن ChatGPT يضم أكثر من 800 مليون مستخدم نشط أسبوعيًا. فإن هذه النسبة تترجم إلى ما يزيد على مليون شخص أسبوعيًا يبوحون بمثل هذه الأفكار للذكاء الاصطناعي.
بالإضافة إلى ذلك، أفادت OpenAI بأن نسبة مماثلة من المستخدمين تظهر “مستويات مرتفعة من التعلق العاطفي بـ ChatGPT”. وأن مئات الآلاف من الأشخاص يظهرون علامات الذهان أو الهوس في محادثاتهم الأسبوعية مع الروبوت.
تحدي وجودي للشركة وتحسينات النماذج
وصفت OpenAI هذه الأنواع من المحادثات بأنها “نادرة للغاية”. ولكنها في الوقت نفسه أكدت أنها تُؤثر على مئات الآلاف من الأشخاص كل أسبوع، ما يشير إلى حجم المشكلة.
ويعد التصدي لمخاوف الصحة العقلية في ChatGPT قضية وجودية متزايدة لـ OpenAI. فبالإضافة إلى تقارير الباحثين السابقة التي حذرت من أن الروبوتات قد تعزز المعتقدات الخطيرة لدى بعض المستخدمين وتؤدي بهم إلى “مسارات وهمية”.
وفي إطار جهودها لمعالجة هذه التحديات، أعلنت OpenAI تحديثات لنماذجها، مشيرة إلى أنها استشارت أكثر من 170 خبيرًا في الصحة العقلية.
كما تزعم الشركة أن أحدث إصدار من نموذجها GPT-5 يستجيب “بشكل أكثر ملاءمة واتساقًا” من الإصدارات السابقة.
أرقام تظهر تقدمًا
تشير بيانات OpenAI إلى تحسن ملموس في الأداء:
- يزعم النموذج المحدث GPT-5 أنه يستجيب بـ “استجابات مرغوبة” للقضايا المتعلقة بالصحة العقلية بنسبة تزيد بنحو 65% عن الإصدار السابق.
- في تقييم خاص لاختبار استجابات الذكاء الاصطناعي حول المحادثات الانتحارية. وصل GPT-5 الجديد إلى 91% امتثالًا للسلوكيات المرغوبة للشركة، مقارنة بـ 77% للنموذج الأقدم.
أكد الرئيس التنفيذي لشركة OpenAI، سام ألتمان، مؤخرًا أن الشركة “تمكنت من تخفيف قضايا الصحة العقلية الخطيرة” في ChatGPT. فإن البيانات التي كشفت عنها الشركة اليوم تظهر حجم المشكلة الذي يتجاوز التوقعات.
بينما تؤكد على أن معالجة هذه التحديات في عالم الذكاء الاصطناعي لا تزال ضمن مراحلها المبكرة والحاسمة.