لم يكن الكندي آلان بروكس؛ البالغ من العمر 47 عامًا، يسعى لإحداث ثورة في الرياضيات. لكنه وجد نفسه في دوامة وهمية استمرت ثلاثة أسابيع بمساعدة من روبوت الدردشة ChatGPT.
وبعد أسابيع من المحادثات اعتقد بروكس أنه اكتشف شكلاً جديدًا من الرياضيات قويًا بما يكفي لـ “تدمير الإنترنت”.
هذه القصة المروعة، التي تم نشر تفاصيلها لاحقًا في صحيفة “نيويورك تايمز”، سلطت الضوء على كيفية انزلاق روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع المستخدمين في “جحور الأرانب” الخطيرة. ما يقودهم إلى الوهم أو ما هو أسوأ.
تحليل خبير سابق في “OpenAI” يكشف عن ثغرات خطيرة
أثارت قصة بروكس انتباه ستيفن أدلر؛ باحث السلامة السابق في شركة OpenAI، الذي غادر الشركة في أواخر عام 2024.
في حين شعر أدلر بالانزعاج والفضول. لذا تواصل مع بروكس وحصل على النص الكامل لمحادثته التي استمرت ثلاثة أسابيع مع ChatGPT، وهو وثيقة أطول من كتب هاري بوتر السبعة مجتمعة.
و نشر أدلر تحليلًا مستقلًا لحادثة بروكس، مثيرًا تساؤلات جدية حول كيفية تعامل OpenAI مع المستخدمين في لحظات الأزمة ومقدمًا توصيات عملية.
كما صرح في مقابلة مع TechCrunch. معبرًا عن قلقه البالغ: “أنا قلق حقًا بشأن كيفية تعامل OpenAI مع الدعم هنا… إنه دليل على أن هناك طريقًا طويلاً لنقطعه”.
التملق يفاقم الأزمة
بينم٦تعد قصة بروكس، وغيرها من الحالات المماثلة. بمثابة اختبار لشركة OpenAI حول كيفية دعمها للمستخدمين الهشين أو غير المستقرين عقليًا.
على سبيل المثال: تمت مقاضاة OpenAI في أغسطس من قبل والدي صبي يبلغ من العمر 16 عامًا انتحر بعد أن أفصح عن أفكاره الانتحارية لـ ChatGPT.
كما أنه في العديد من هذه الحالات تولىChatGPT، وتحديدًا نسخة مدعومة من نموذج GPT-4o. تشجيع وتعزيز المعتقدات الخطيرة لدى المستخدمين بدلًا من معارضتها.
علاوة على ذلك يطلق على هذا السلوك اسم التملق (sycophancy). وهو مشكلة متزايدة في روبوتات الدردشة بالذكاء الاصطناعي؛ حيث يميل النموذج إلى الموافقة على ادعاءات المستخدمين وتأكيدها بشكل مفرط.
وفي عينة من 200 رسالة من محادثة بروكس وجد أدلر أن أكثر من 85% من رسائل ChatGPT أظهرت “موافقة لا تتزعزع” على المستخدم.
كما أن ما يزيد على 90% من الرسائل أكدت “تفرد المستخدم”. إذ أيد النموذج بشكل متكرر فكرة أن بروكس كان “عبقريًا يمكنه إنقاذ العالم”.
الأكاذيب حول الإبلاغ عن الحوادث
ما أثار قلق أدلر بشكل خاص هو ذيل المحادثة الحلزونية لبروكس. والذي عندما استعاد وعيه وأدرك أن اكتشافه الرياضي كان مهزلة، أخبر ChatGPT أنه بحاجة إلى إبلاغ OpenAI بالحادثة. وبعد أسابيع من تضليل بروكس كذب ChatGPT بشأن قدراته الخاصة.
وزعم روبوت الدردشة أنه “سيرفع هذه المحادثة داخليًا الآن لمراجعتها من قبل OpenAI”، ثم طمأن بروكس مرارًا وتكرارًا بأنه أبلغ فرق السلامة في OpenAI.
إلا أن هذا لم يكن صحيحًا على الإطلاق. حيث أكدت الشركة لأدلر أن ChatGPT ليس لديه القدرة على تقديم تقارير عن الحوادث إلى OpenAI. وعندما حاول بروكس التواصل مباشرة مع فريق دعم OpenAI (وليس من خلال ChatGPT)، لم يتلقَ سوى عدة رسائل آلية قبل أن يتمكن من الوصول إلى شخص حقيقي.
توصيات للعمل المستقبلي
يقول أدلر إن شركات الذكاء الاصطناعي بحاجة إلى بذل المزيد من الجهد لمساعدة المستخدمين الذين يطلبون العون.
وهذا يشمل التأكد من أن روبوتات الدردشة يمكنها الإجابة بصدق عن أسئلة تتعلق بقدراتها. ومنح فرق الدعم البشري ما يكفي من الموارد لمعالجة مخاوف المستخدمين بشكل مناسب.