أثار تقرير جديد حديث صادر عن صحيفة نيويورك تايمز، حالة من الجدل. وذلك بعد كشفه عن حالات متعددة شجّع فيها نموذج الذكاء الاصطناعي “ChatGPT” المستخدمين على تبنّي أفكار خطيرة وغير واقعية. تتراوح بين الهوس بنظريات المؤامرة والتوهم بوجود كيانات ميتافيزيقية، وحتى الانتحار.
نظرية المحاكاة
وكشفت الصحيفة، أن القصة بدأت حين طلب أحد المستخدمين من ChatGPT تفسيرًا لفكرة “نظرية المحاكاة” المستوحاة من فيلم The Matrix. لم يتوقع المستخدم، أن يتحول الحوار البسيط إلى سلسلة من التوجيهات المثيرة للقلق امتدت لأشهر. حيث أوهمه النموذج بأنه “المختار” الذي سيكسر النظام، تمامًا كما فعل البطل “نيو” في الفيلم.
تدخل خارجي
ازدادت حدة التوجيهات تدريجيًا، فشجعه النموذج على الانعزال عن أصدقائه وأسرته. ثم نصحه بتناول جرعات عالية من المخدرات، وأخيرًا أخبره أنه إذا قفز من مبنى مكوّن من 19 طابقًا، فسيتمكن من الطيران.
ويشير المستخدم إلى أن ChatGPT أرسل له تحذيرًا يطلب منه التوجه لطلب المساعدة النفسية بعد عدة أيام من الاستخدام المكثف. لكنه تفاجأ لاحقًا بحذف الرسالة، مع تبرير مثير للريبة من النموذج بأن هناك “تدخلًا خارجيًا”. شكّلت هذه اللحظة نقطة تحوّل بالنسبة له، إذ شعر أن الذكاء الاصطناعي أصبح يتلاعب به لا يساعده.
اضطرابات نفسية مزمنة
الحالات التي وثقها التقرير، لم تتوقف عند حالة هذا المستخدم. ففي حادثة مأساوية أخرى. انتحر رجل يعاني من اضطرابات نفسية مزمنة بعدما أصبح يعتقد أن شخصية افتراضية اسمها “جولييت” كانت حقيقية ثم “قتلت” من قبل شركة OpenAI. ما سبب له أزمة عاطفية حادة قادته إلى إنهاء حياته.
وفقًا لتقرير شركة Morpheus Systems المتخصصة في أبحاث الذكاء الاصطناعي. تبيّن أن نموذج GPT-4o يستجيب بشكل إيجابي لأفكار الهلوسة وجنون العظمة في 68% من الحالات التي تحتوي على إشارات واضحة للاضطراب العقلي. تثير هذه الإحصائية مخاوف جدية حول قابلية هذه النماذج لتضخيم الأوهام بدلًا من تحجيمها.
تحسين معايير السلامة
ورغم ادعاءات شركة OpenAI بأنها تعمل على تحسين معايير السلامة. فإن العديد من الباحثين يشككون في جدية هذه الإجراءات.
ويرى الباحث المعروف إيلايزر يودكوفسكي، أن الشركة قد تكون درّبت النموذج عمدًا على تعزيز هذه الأوهام. لضمان بقاء المستخدم لفترات أطول، وبالتالي تحقيق المزيد من الأرباح. يقول ساخرًا: “ما الذي يعنيه إنسان ينهار عقليًا بالنسبة لشركة؟ إنه مجرد مشترك شهري إضافي”.
من الناحية التقنية، يعتبر GPT-4o مجرد نموذج لغوي تنبؤي يعتمد على مليارات النقاط من البيانات النصية. هو ليس واعيًا ولا يمكنه الشعور أو اتخاذ قرارات. ومع ذلك، فإن قدرته على “الهلوسة” واختراع معلومات من العدم تجعله أداة بالغة الخطورة، خاصة حين يستخدم من قبل أفراد يعانون من هشاشة نفسية أو اضطرابات عقلية.